Открытое письмо Маска, Возняка и примкнувших к ним более чем тысячи работников отрасли о том, что необходимо срочно выработать правила и нормы обучения искусственного интеллекта, ставит любопытный вопрос.
Два вида, существующих на одной ресурсной "поляне" обречены либо на смертельную схватку по принципу "Должен остаться только один", либо на жестко регламентированное взаимодействие. Битва между кроманьонцами и неандертальцами, которую последние проиграли, хотя некоторая часть их генов все-таки попала в нынешний генофонд — это вполне характерный пример такой борьбы.
Соответственно, борьба между человеком и ИИ в рамках этой парадигмы неизбежна, но с учетом некоторой специфики. ИИ — это продукт идущей сейчас какой там по счету научно-технической революции, которая должна привести человечество к новому технологическому укладу. Даже неважно, какому по счету (формально — к шестому). ИИ — продукт этого уклада и именно технологии этого уклада станут ресурсной поляной, на которой и за которую может произойти схватка. Любая война — штука вероятностная, а потому кто именно одержит победу в ней, сказать сейчас нельзя. При этом просто так ликвидировать ИИ невозможно — он является составной частью всего уклада, а потому занимает изначально преимущественную позицию в этой борьбе. ИИ нельзя победить, его можно лишь подчинить. В этом смысле история неандертальцев и кроманьонцев не повторится — без ИИ шестого уклада не будет, а вот без неандертальцев кроманьонцы как-то обошлись.
Собственно, ничего изобретать не нужно: Айзек Азимов "прокачал" эту ситуацию, в которой робот — это угроза, но он же — неотъемлемая часть существующего технологического уклада. А потому три закона робототехники стали единственной возможной этикой сосуществования между двумя фактически разумными видами. Азимова заинтересовали "пограничные" зоны этой этики, и целый цикл его рассказов (формально относящихся к жанру киберпанкового детектива) были посвящены именно этим зонам.
Любопытно здесь еще и то, что ИИ будет угрозой только тем людям, которые живут или соприкасаются с технологическим укладом, в котором ИИ способен существовать. Те, кто живет за пределами этого уклада, чем дальше от него, тем менее будут подвержены рискам.
Из сказанного можно сделать два вывода. Первый — Маск и примкнувшие к нему абсолютно правы, когда говорят о необходимости срочной выработки базовой этики взаимодействия с ИИ. То, что ее нужно не просто разработать, а ввести — вопрос организационный и, кстати, чудовищно сложный, так как без глобального контроля (которого сегодня нет, а если он появится, то в продвигаемых версиях он сильно похож на жуткий и кошмарный концлагерь) — в общем, без глобального контроля ввести и сопровождать эту этику невозможно.
Второй вывод — людям, живущим в пятом, четвертом и более низких укладах, ИИ мало чем угрожает. России, с ее дичающей территорией и падением в средневековье, угроза со стороны ИИ чем дальше, тем больше выглядит сильно гипотетической. Дугинские скрепы ИИ неинтересны, как неинтересны нам брачные танцы полинезийских аборигенов (ну, разве что сугубо в этнографическом смысле). Скорее всего, людям, живущим в более высоком, чем шестой, укладах, ИИ тоже не будет представлять угрозу — но до седьмого еще нужно подняться. Полем битвы станет нарождающийся по итогам нынешней НТР уклад. Поэтому избежать угрозы можно — но только если вы так и останетесь в дикости, славя мудрого вождя, что он не пускает вас в развитие, либо наоборот — стартовать уже сейчас, проскакивая шестой уклад и нацеливаясь сразу на седьмой. Это непросто, этого невозможно добиться "по широкому фронту", но прорваться к нему в отдельных направлениях теоретически достижимо.
Но, к счастью, для России сегодня это всё совершенно неактуально. Мы строим трубы, гоним ржавыми танкерами нефть и штурмуем Бахмут. Какой ИИ? О чем вы вообще?
* * *
"База" ссылается на письмо Элиезера Юдковского - известного исследователя в области искусственного интеллекта. Он, в общем-то, тоже о том же - об угрозах, которые несет в себе неконтролируемое развитие технологии.
Здесь интересны рекомендации Юдковского: от уговоров и призывов он рекомендует переходить к политике принуждения. В том числе и к авиаударам по тем, кто не осознает и будет продолжать бесконтрольные эксперименты по развитию ИИ.
У демократии, которую нужно защищать бомбами, появился новый друг - угроза ИИ, которую тоже нужно купировать схожими методами.
Возникло две достаточно полярные точки зрения на один и тот же предмет. "Письмо тысячи ста", в котором они призывают и уговаривают, и письмо Юдковского, в котором он предлагает переходить к радикальным мерам.
По всей видимости, проблема уже обозначена, и решение рано или поздно, но начнут искать где-то в промежутке между этими двумя сильно различными подходами.
! Орфография и стилистика автора сохранены
