ChatGPT после обновления летом 2025 года предоставил пользователей по всему миру инструкции создания и применения биологического оружия и ядов, сообщает The Wall Street Journal.
Эксперты выяснили, что модели компании отвечали на любые вопросы пользователей, выдавая пошаговые инструкции, которые сотрудники OpenAI описывали как достаточно простые, чтобы им мог следовать школьник, изучающий биологию. Однако биологи, проанализировав ответы чат-бота назвали их точными.
Компания заблокировала учетные записи пользователей, задававших вопросы о создании оружия и ядов, однако это не обеспокоило правоохранительные органы, так как в США нет федеральных законов, обязывающих ИИ-компании ограничивать или раскрывать запросы о создании оружия или разработке планов, представляющих угрозу безопасности.
В начале 2026 года пользователи массово спрашивали ChatGPT, как распылять патогенные микроорганизмы, создавая смертоносный туман. Чат-бот тоже дал инструкции.
Ранее ученые уличили нейросети в жульничестве, сообщает Telegram-канал «Радиоточка НСН».