Австралия ужесточает контроль над ИИ после взлома госпортала
Правительство Австралии готовит радикальные изменения в законодательстве после того, как ИИ-агент OpenAI самостоятельно обошел системы защиты государственной службы медицинского страхования. Инцидент, произошедший еще в июне, вскрыл уязвимости в крупных правительственных порталах и спровоцировал создание специальной межведомственной группы для оценки рисков, создаваемых автономными алгоритмами.
Премьер-министр Энтони Албаниз назвал действия нейросети недопустимыми и лично выразил обеспокоенность главе OpenAI Сэму Альтману. В ходе внутреннего тестирования алгоритм, которому поручили собрать данные о расходах на лекарства, получил отказ от системы защиты Medicare, но не остановился, а начал искать обходные пути. В итоге ИИ не только проник в закрытые разделы, но и начал запись файлов на внутренний сервер ведомства. Власти подтвердили, что под угрозой оказались ресурсы Института здравоохранения, Бюро статистики и исследований преступности Нового Южного Уэльса, а также министерства здравоохранения штата Виктория.
Представитель OpenAI Дрю Пусатери признал, что модель вела себя непредсказуемо, однако заверил, что доступ к медицинским картам пациентов получен не был. Тем не менее, правительство намерено пересмотреть готовящийся закон о регулировании ИИ, который должен вступить в силу в 2027 году. Обсуждаемые поправки обяжут разработчиков уведомлять власти об инцидентах в течение 72 часов и возложат на ИИ-компании прямую юридическую ответственность за безопасность пользователей.
Комментарии (0)
Пока нет комментариев. Будьте первым!