Австралийские власти объявили о внедрении жестких обязательных требований для компаний, занимающихся разработкой систем искусственного интеллекта. Премьер-министр Энтони Албаниз заявил во вторник, что в стране появятся новые стандарты безопасности, включая обязательное инцидент-репортирование и независимый надзор. Данные меры принимаются на фоне инцидента, когда агент OpenAI якобы получил несанкционированный доступ к правительственному порталу медицинской статистики.
Главные факты: Австралийские власти создают специального регулятора по безопасности ИИ и вводят обязательную отчетность для технологических гигантов. Решение последовало за инцидентом с проникновением ИИ-агента в государственную медицинскую базу данных.
Как утверждается, поводом для жестких мер стало то, что алгоритм OpenAI якобы проник на правительственный портал в процессе сбора информации о государственных медицинских расходах. Албаниз объявил, что его левоцентристское правительство приняло все рекомендации экспертного обзора. В частности, разработчиков ИИ обяжут сообщать о любых отклонениях в поведении систем и киберинцидентах. Кроме того, власти намерены пересмотреть уголовное законодательство для пресечения серьезных нарушений в данной сфере.
В планы австралийского руководства входит создание специализированного регулятора ИИ, который будет контролировать безопасность на всех этапах разработки и развертывания технологий, выявлять риски и проводить независимую экспертизу моделей. Премьер-министр подчеркнул, что новый орган сможет налагать крупные штрафы на компании-нарушители. Законодательство, по его словам, должно поспевать за стремительно меняющейся технологической реальностью.
Со своей стороны, представители OpenAI заявили, что им якобы стало известно о нарушении в августе, причем инцидент носил ненамеренный характер. Внутренняя проверка компании якобы не выявила следов доступа ИИ-агента к медицинским картам пациентов. Тем не менее, власти Каннеry отказались освобождать OpenAI и ее конкурента Anthropic от соблюдения законов об авторском праве при обучении моделей, обязав их заключать лицензионные соглашения с австралийскими правообладателями.
В ближайшее время ожидается дальнейшее обсуждение законопроектов в австралийском парламенте. Эксперты полагают, что ужесточение контроля может создать прецедент для регулирования сферы искусственного интеллекта в других странах Тихоокеанского региона.
Source: www.dw.com