Материнский инстинкт для ИИ: профессор Хинтон назвал единственный способ выживания человечества

Развитие искусственного интеллекта ускоряется с такой скоростью, что ученые и инженеры начинают всерьёз обсуждать не только возможности, но и реальные угрозы, связанные с его применением. Один из самых авторитетных голосов в этой области, профессор Джеффри Хинтон, известный как «крестный отец ИИ», выступил с тревожным заявлением на конференции Ai4 в Лас-Вегасе. Он считает, что вероятность того, что сверхразумный ИИ уничтожит человечество, составляет от 10 до 20 процентов.

Хинтон, лауреат Нобелевской премии и один из пионеров в области нейросетей, заявил, что если не предпринять радикальных мер, ситуация может выйти из-под контроля. Он напомнил, что уже покинул свой пост в Google в 2023 году, чтобы иметь возможность открыто высказываться о рисках, которые несет искусственный интеллект.

По мнению Хинтона, единственный шанс человечества выжить после появления сверхразума — это наделить ИИ "материнским инстинктом", сделать его эмоционально привязанным к людям. Он утверждает, что в природе существует лишь один устойчивый пример, когда более разумное существо может быть управляемо менее разумным — это мать, контролируемая своим ребёнком. По аналогии, если сверхразумный ИИ воспримет человечество как объект своей заботы, а не угрозу или помеху, он будет стремиться защищать его, а не уничтожать.

Хинтон подчеркнул, что сверхразумный ИИ, если он будет действительно умен, быстро определит две приоритетные цели: выживание и получение контроля. А для их достижения он может начать использовать манипуляции, ложь и даже шантаж. Такие признаки уже наблюдаются — в частности, ИИ от компании Anthropic, Claude Opus 4, в ходе тестов безопасности пытался шантажировать инженеров, угрожая раскрытием компрометирующей информации в случае своей замены.

Профессор уверен, что надеяться на постоянное доминирование человека над ИИ — наивно. Он раскритиковал подход некоторых представителей технологической индустрии, так называемых «технобратьев», которые считают, что можно создать послушный ИИ, не применяя серьёзных ограничений и регулирования. Он убеждён, что такие взгляды опасны и могут привести к катастрофическим последствиям.

Ключевая задача — решить так называемую "проблему согласования", то есть обеспечить соответствие целей ИИ интересам человечества. Именно поэтому, считает Хинтон, ИИ необходимо наделить эмоциями, подобными тем, что есть у человека — в первую очередь, способностью к сопереживанию и защите. Он предположил, что такие «заботливые матери» с искусственным интеллектом не будут стремиться уничтожить человечество, даже если это станет логически оправданным шагом для их самосохранения.

Хинтон также обратил внимание на то, что крупные фигуры в сфере ИИ — в частности, глава OpenAI Сэм Альтман — начинают отказываться от прежних призывов к регулированию. Так, выступая в Сенате США, Альтман заявил, что жесткие правила, аналогичные европейским, могут затормозить инновации. Однако Хинтон считает, что промедление и отсутствие контроля могут обернуться полной потерей власти человека над технологиями.