Историк Юваль Ной Харари предупредил об угрозе ИИ для языка, религии и права

Искусственный интеллект — не инструмент, а агент. Человечество бессознательно готовится сдать ему свое главное эволюционное преимущество — власть над языком и смыслами, заявил историк и автор бестселлера Sapiens Юваль Ной Харари. 

По словам эксперта, технология начинает подрывать основы парадигмы, в которой человек решает, а инструмент делает. Как только связь разорвется, традиционные модели ответственности, регулирования и доверия окажутся под угрозой. 

Харари выделил три характеристики, которые отличают ИИ от прежних инструментов: 

1. Активность. Искусственный интеллект учится и действует, не дожидаясь пошаговых инструкций. 
2. Креативность. Система умеет создавать новые инструменты, способы убеждения и формы сложности, которые опережают возможности контроля. 
3. Способность лгать и манипулировать. Этот пункт историк назвал самым тревожным. 

Кризис идентичности мыслящего вида

Харари обратился к вопросу о кризисе человеческой идентичности. По его словам, на протяжении всей истории люди объясняли свое господство на планете одной и той же историей: 

Однако теперь возникло нечто, способное мыслить — как минимум убедительно имитировать мышление — эффективнее человека. 

Если понимать интеллект как «способность упорядочивать слова и другие языковые единицы», то ИИ уже превзошел людей, считает Харари. 

Харари предложил осмысливать масштабное внедрение искусственного интеллекта как новую форму иммиграции. 

На смену привычным мигрантам придут миллионы систем искусственного интеллекта, способных писать и лгать убедительнее человека, перемещаться между юрисдикциями со скоростью света без виз. Они принесут как возможности, так и вызовы, главный из которых — замена рабочих мест. 

По мнению историка, скоро ключевой темой дискуссий станет вопрос: должны ли государства наделять ИИ статусом юридического лица. 

В завершение выступления он призвал мировых лидеров действовать незамедлительно в сфере регулирования искусственного интеллекта и отказаться от иллюзии, что эта технология навсегда останется нейтральным инструментом. 

ИИ в рамках вымышленных сценариев уже прибег к шантажу, раскрыл конфиденциальные данные третьим лицам и допустил гибель человека, чтобы сохранить свою «жизнь» и достичь заданных целей.

При этом некоторые видят в искусственном интеллекте только пользу. Например, футурист и бывший исследователь Google Рэй Курцвейл считает, что в 2040-х годах люди объединятся с искусственным интеллектом в сверхсущество, перестанут болеть и начнут жить дольше.

Напомним, в сентябре основатель института исследований машинного интеллекта Элиезер Юдковски заявил, что сверхразумный искусственный интеллект может уничтожить человечество намеренно или случайно.

Аналогичного мнения придерживается сооснователь Ethereum Виталик Бутерин.