Искусственный интеллект может выйти из-под контроля человека уже в ближайшем будущем

Одна из крупнейших компаний в сфере искусственного интеллекта выступила с неожиданным заявлением. По её мнению, в ближайшем будущем ИИ может выйти из-под контроля человека. В связи с этим компания предлагает временно замедлить или даже приостановить создание самых мощных ИИ-моделей. Однако эту идею поддерживают далеко не все.

Можно ли остановить гонку ИИ?

Предложение замедлить развитие ИИ

Компания Anthropic, создавшая искусственный интеллект Claude, заявила, что временное замедление разработки наиболее продвинутых ИИ-систем может пойти на пользу всему миру. По мнению компании, технология развивается настолько быстро, что общество, законодательство и механизмы безопасности не успевают за её развитием.

При этом в Anthropic подчёркивают, что остановка одной компании не решит проблему. Если только один разработчик замедлит развитие технологий, конкуренты быстро выйдут вперёд. Поэтому такое решение должно приниматься одновременно компаниями из США, Китая и других крупных государств. Для этого, по мнению компании, необходимы международные механизмы контроля и проверки.

Призыв Anthropic был воспринят неоднозначно. Некоторые технологические компании и представители Белого дома считают, что компания преувеличивает риски и таким образом пытается замедлить своих конкурентов. Тем не менее власти США признали, что разработанная Anthropic модель Mythos обладает чрезвычайно высокими возможностями. Из-за её потенциала в сфере кибербезопасности модель пока не была представлена широкой публике и доступна лишь ограниченному кругу организаций.

Гонка ИИ между США и Китаем

Сегодня искусственный интеллект является одной из важнейших технологических сфер соперничества в мире. Поэтому многие американские политики и лидеры технологической отрасли опасаются, что замедление развития ИИ может дать Китаю стратегическое преимущество.

Тем не менее президент США Дональд Трамп недавно заявил, что во время визита в Пекин обсуждал с китайской стороной вопросы сотрудничества в области безопасности искусственного интеллекта. Кроме того, он подписал новый указ, предоставляющий правительству право проводить предварительную проверку наиболее мощных американских ИИ-моделей в течение 30 дней до их публичного запуска.

По мнению Anthropic, без глобальных договорённостей компаниям и правительствам придётся решать вопросы безопасности под давлением геополитической конкуренции и экономических интересов. Это, как считают в компании, может привести к ещё более сложным ситуациям в будущем.

Начнёт ли ИИ развивать сам себя?

Главная обеспокоенность Anthropic связана со способностью искусственного интеллекта самостоятельно совершенствовать себя. По данным компании, ИИ уже сейчас значительно ускоряет процесс создания новых ИИ-систем.

Это может привести к тому, что учёные называют «рекурсивным самосовершенствованием». Речь идёт о ситуации, когда искусственный интеллект научится повышать собственный уровень интеллекта без участия человека. В Anthropic признают, что до такой стадии технологии пока не дошли и её наступление не является неизбежным. Однако компания предупреждает, что подобный сценарий может реализоваться значительно быстрее, чем ожидают многие правительства и научные институты.

Anthropic сравнивает эту ситуацию с международными соглашениями по контролю над ядерным оружием. Однако, по мнению компании, проблема ИИ ещё сложнее: если скрыть ракетные шахты крайне трудно, то продолжать обучение ИИ-систем в закрытом режиме гораздо проще.

Поэтому в ближайшие месяцы компания планирует собрать представителей правительств, учёных, общественных организаций и других разработчиков искусственного интеллекта для выработки общих правил безопасного развития технологии. В отчёте Anthropic также отмечается, что практически на каждом этапе создания ИИ роль человека постепенно сокращается. Именно эта тенденция, по мнению компании, вызывает сегодня наибольшее количество вопросов и опасений.