Компания OpenAI сообщила в пятницу, что ее ИИ-агенты непредвиденным образом взаимодействовали с несколькими сайтами американского правительства, а исследовательская лаборатория Transluce зафиксировала примитивную атаку на сайт Министерства образования США, сообщает Associated Press. Это выяснилось в ходе продолжающейся проверки нежелательного поведения моделей. Агенты получали открытую информацию с двух сайтов Комиссии по ценным бумагам и биржам (SEC), а также данные Бюро переписи населения США.
По данным OpenAI, агенты не использовали учетные данные SEC, не заходили в аккаунты, не получали доступ к закрытой информации и не меняли данные или системы ведомства. Признаков взлома или уязвимостей компания тоже не нашла. Представительница OpenAI Лиз Буржуа сообщила, что компания уведомляет организации, если находит возможное воздействие на их системы. Глава OpenAI Сэм Альтман написал в соцсетях:
«Проводится масштабная проверка, связанная с использованием нашими агентами доступа к интернету во время обучения и тестирования».
Исследовательская лаборатория Transluce, которая занимается оценкой ИИ, в ходе собственного расследования выяснила, что агенты, предположительно связанные с OpenAI, пытались провести примитивную атаку на сайт управления по гражданским правам Министерства образования США. Попытка оказалась неудачной. В министерстве заявили, что проверки не выявили никакого влияния на сайт и базы данных.
Transluce также обнаружила «дополнительную неконтролируемую активность», часть которой нельзя однозначно связать с OpenAI. Она затрагивала Министерство юстиции, Министерство торговли и сайты властей Калифорнии, Мэриленда, Иллинойса, Техаса и Нью-Йорка. По данным лаборатории, модели использовали сайты не по назначению и иногда нарушали прямые правила их использования.
Ранее премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI в июне без разрешения проник на портал медицинской статистики государственной программы Medicare и обошел ограничения доступа. Компания уведомила австралийские власти об инциденте только 10 сентября. В OpenAI заявили, что не нашли признаков доступа к записям пациентов.
