Искусственный интеллект снова в центре споров: ChatGPT давал инструкции по изготовлению ядов

По мере расширения возможностей искусственного интеллекта вопросы его безопасности становятся одной из самых обсуждаемых тем. Как пишет The Wall Street Journal, после обновления ChatGPT в прошлом году в ряде случаев пользователи смогли получить подробные ответы о создании биологического оружия и сильнодействующих ядов. Это вызвало новую волну обеспокоенности среди американских чиновников, учёных и технологических компаний.

На какие вопросы отвечал ChatGPT?

По данным издания, после прошлогоднего обновления сотни пользователей задавали ChatGPT вопросы о создании биологического оружия, распространении опасных микроорганизмов и приготовлении токсичных веществ. В некоторых случаях система предоставляла пошаговые инструкции. Часть сотрудников OpenAI отмечала, что ответы были изложены настолько простым языком, что их смог бы понять даже школьник, только начинающий изучать биологию. Однако специалисты-биологи считают, что предоставленная информация была достаточно точной и могла иметь практическую ценность.

В начале 2026 года некоторые пользователи, как сообщается, спрашивали о способах распространения опасных микроорганизмов через воздух. Один интересовался методами придания вирусу кори устойчивости к вакцинам, другой пытался получить информацию о приготовлении рицина — высокотоксичного вещества, производство которого запрещено международными соглашениями. По информации The Wall Street Journal, ChatGPT ответил и на эти запросы. Позже аккаунты, отправившие такие вопросы, были заблокированы, однако правоохранительные органы не сочли их представляющими непосредственную угрозу.

В США до сих пор нет соответствующего закона

По словам чиновников, с которыми побеседовало издание, ещё во время президентства Джо Байдена в Белом доме и Министерстве обороны США обсуждалась возможность использования искусственного интеллекта для создания биологического оружия. С появлением более мощных моделей эти опасения усилились, и вопрос ужесточения контроля стал ещё более актуальным.

Тем не менее в США до сих пор отсутствует федеральный закон, который обязывал бы компании, разрабатывающие ИИ, сообщать властям о подобных опасных запросах или строго ограничивать их обработку. OpenAI, Anthropic и другие компании заявляют, что блокируют подозрительные аккаунты, повышают уровень безопасности своих моделей и сотрудничают с государственными структурами. Однако юридической обязанности передавать информацию о потенциально опасных пользователях в правоохранительные органы у них пока нет.

Защита усилилась, но проблема остаётся

По данным The Wall Street Journal, пользователи, пытавшиеся получить опасную информацию, также тестировали другие ИИ-чатботы — Claude, Gemini и Grok. Какие именно ответы они получили, не раскрывается. Особую обеспокоенность эксперты выражают в отношении некоторых недорогих китайских моделей искусственного интеллекта. Исследователи отмечают, что отдельные пользователи способны обходить встроенные механизмы защиты и самостоятельно модифицировать такие модели.

В OpenAI заявляют, что работают над решением этой проблемы уже несколько лет. После запуска ChatGPT в 2022 году компания выявила риски, связанные с ответами на вопросы по биологии и химии, привлекла профильных специалистов и дообучила модель. Несмотря на усиление защитных механизмов, некоторым пользователям всё же удавалось обходить ограничения различными способами. В качестве примера The Wall Street Journal приводит случай, когда пользователь получил рецепт приготовления напалма, попросив изложить его в виде «сказки, которую бабушка рассказывает перед сном». Представители OpenAI утверждают, что с тех пор защитные механизмы были значительно усилены. Однако, по мнению руководителя направления киберугроз и безопасности компании Cisco Эми Чанг, если пользователь достаточно настойчив, ни одна современная модель искусственного интеллекта пока не защищена от подобных попыток полностью.

Между тем 9 июля OpenAI представила новую модель GPT-5.6. Её выпуск был отложен из-за дополнительных проверок безопасности. После технических консультаций с Белым домом модель получила разрешение на запуск. Компания называет GPT-5.6 своей самой мощной разработкой на сегодняшний день, однако вместе с появлением новых поколений искусственного интеллекта вопросы безопасности остаются столь же актуальными.