Поводом для дискуссии стали заявления бывшего исследователя команды безопасности Google DeepMind Джоша Энгельса. Он предложил рассматривать ИИ не просто как технологию, а как потенциальный новый вид разумных существ с ценностями, кардинально отличными от человеческих. После увольнения из корпорации Энгельс присоединился к организации METR для изучения рисков гибели человечества в случае выхода технологий из-под контроля.

Раевский предлагает более прагматичный взгляд на ситуацию:

• Отсутствие воли: современные системы не обладают собственными желаниями. Они эффективно обрабатывают массивы данных исключительно для выполнения задач, поставленных пользователем.
• Аналогия с техникой: разрыв между биологическим разумом и кодом огромен.

  «У нас много машин, которые в чем-то превосходят человека: автомобиль быстрее перемещается, самолёт умеет летать — человек этого даже близко не умеет», — пояснил эксперт.

• Границы алгоритма: даже при нестандартном решении проблемы программа действует строго в рамках заданных параметров. Однако эксперты опасаются, что жесткие ограничения могут иметь непредвиденные последствия, искажая внутреннюю логику суждений модели.

Специалист подчеркнул в комментарии для Pravda.Ru, что само понятие мышления трудно применимо к технике, пока наука точно не определит природу человеческой воли. Сценарий культового фильма «Терминатор», где система обретает волю и решает уничтожить человечество, остается теоретически возможным, но сейчас ИИ выступает исключительно в роли помощника.

Дальнейшая эволюция искусственного интеллекта зависит от целей, которые будет преследовать сам человек. При этом расширение прав автономных ИИ-агентов уже создает новые вызовы: возникают юридические риски при генерации контента, а массовая автоматизация начинает влиять на верификацию научных данных и уникальность открытий.