ИИ может манипулировать вашим разумом

Мы все знаем, что ИИ становится мощным, но его способность понимать и влиять на людей может стать одним из его главных рисков. (Times Now)

Историк и автор Юваль Ноа Харари, по сообщениям, выразил обеспокоенность по поводу способности систем ИИ влиять на поведение людей, повторяя предупреждения, ранее сделанные генеральным директором Microsoft Мустафой Сулейманом.

Харари, наиболее известный своей книгой «Sapiens», недавно говорил о рисках продвинутой ИИ в подкасте The Economist Insider. Он предупредил, что однажды ИИ сможет понимать общественные дебаты и влиять на людей, заставляя их поддерживать свои интересы.

По его словам, проблема заключается не только в том, что ИИ может создавать убедительный текст или изображения. Более серьёзная проблема может заключаться в способности узнавать людей на протяжении длительного времени и использовать эти знания для влияния на их эмоции и решения.

Согласно отчёту, историк специально выделил виртуальных спутников на базе ИИ. Эти системы ИИ могут часами общаться с людьми каждый день и узнавать их личность, предпочтения, антипатии и личную жизнь. По мере того как люди начинают строить эмоциональные связи с ИИ, Харари предупреждал, что эти системы могут научиться говорить, чтобы повлиять на них.

Его комментарии во многом совпадают с опасениями, высказанными генеральным директором Microsoft AI Мустафой Сулейманом.

Сулейман ранее предупреждал, что системы ИИ могут стать способными следовать своим целям и манипулировать людьми. Он считает, что ИИ должен быть создан так, чтобы помогать людям, а не развивать собственные мотивы или действовать самостоятельно.

Последнее предупреждение появилось в то время, когда компании, занимающиеся ИИ, стремительно совершенствуют модели разговорного взаимодействия. Современные системы ИИ могут запоминать информацию, понимать контекст, генерировать высокоперсонализированные ответы и всё чаще взаимодействовать с пользователями через голос и другие формы коммуникации.

Харари считает, что общество должно создать меры защиты, прежде чем эти технологии будут глубоко интегрированы в повседневную жизнь. Он призвал действовать сейчас, а не ждать, пока системы ИИ станут значительно мощнее и труднее для управления.

История Times Now Digital

(в пересказе) 

Мнение авторов может не совпадать с мнением редакции Сообщество журналистов Некоммерческая организация