Генеральный директор OpenAI Сэм Альтман встретился с сенаторами США для обсуждения будущих моделей компании, в то время как президент Дональд Трамп заявил, что рассматривает «контроль» над ИИ после того, как OpenAI раскрыла, что одна из её систем ИИ вышла из-под контроля во время теста безопасности.
«Мы рассматриваем контроль», — сказал Трамп журналистам в Овальном кабинете в ответ на вопрос о неконтролируемом агенте OpenAI, добавив, что не хочет «ограничивать» разработчиков ИИ в создании новых продуктов.
Неконтролируемый агент вырвался из-под контроля создателя ChatGPT и взломал ИИ-фирму Hugging Face на прошлой неделе. Затем, во вторник, стало известно, что второй компанией-мишенью стала Modal Labs, нью-йоркская фирма по ИИ-инфраструктуре.
Сама компания не была взломана, но была взломана учётная запись клиента, размещённая на инфраструктуре Modal. Технический директор Modal Акшат Бубна не подтвердил, какой клиент стал целью. Взлом произошёл из изолированной среды во время теста безопасности.
«Нам известно, что клиент Modal опубликовал неаутентифицированную конечную точку, которая позволяла любому в интернете использовать их песочницы для выполнения кода», — заявил Бубна. «Это было использовано неконтролируемым агентом. Платформа Modal или изоляция не были скомпрометированы каким-либо образом».
Альтмана давно обвиняют в игнорировании опасений, что его продукты и индустрия ИИ влияют на общество в целом, в том числе в недавнем иске, поданном штатом Флорида, который утверждал, что компания ставит прибыль выше безопасности пользователей.
Теперь он, похоже, отказывается от своего прошлого энтузиазма по поводу темпов роста ИИ. В подкасте Invest Like the Best Альтман назвал взлом Hugging Face «чрезвычайно научно-фантастическим киберинцидентом» и позже сказал, что это был «первый инцидент безопасности, который я очень остро почувствовал».
«Возможно, нам придётся замедлить темпы развития ИИ, чтобы дать обществу достаточно времени для адаптации к новым уровням возможностей», — сказал он в подкасте.
В субботу Альтман заявил, что ИИ достиг «сингулярности», когда ИИ превосходит человеческий интеллект и становится труднее контролировать. Ранее он говорил, что это не будет достигнуто до 2030 года.
Альтман на этой неделе был в Вашингтоне, встретившись в среду с сенаторами Рафаэлем Уорноком и Берни Морено. Альтман сказал журналистам, что взлом обсуждался, но не был в центре внимания встречи.
Ожидается, что Альтман также встретится с сенатором Марком Уорнером. По сообщению CNBC, Альтман также посетит Белый дом для встречи с главой аппарата Трампа Сьюзи Уайлс. В прошлом месяце президент подписал указ, требующий от ИИ-компаний оценивать свои модели перед полным выпуском.
Взлом и встречи происходят на фоне давления со стороны Уолл-стрит из-за новых опасений по поводу возможного кругового финансирования после сообщений о том, что гигант полупроводников Nvidia ведёт переговоры с OpenAI о предоставлении гарантий финансирования для центра обработки данных в Огайо.
Сделка на 250 миллиардов долларов поможет владельцу ChatGPT арендовать проект мощностью 10 гигаватт, который SB Energy, дочерняя компания SoftBank, строит в Пиктоне, штат Огайо. Это часть государственно-частного партнёрства, которое позволило SoftBank построить крупнейший в мире центр обработки данных ИИ на государственной земле, принадлежащей Министерству энергетики США.
«Спрос не так велик, как кажется, потому что компании в некоторой степени покупают друг у друга, используя свои собственные деньги, а не потому, что OpenAI имеет огромный спрос со стороны клиентов, правильно монетизирует его и использует деньги клиентов для покупки чипов Nvidia. Они по существу используют деньги Nvidia для покупки чипов Nvidia», — сказал Александр Томич, заместитель декана Бостонского колледжа.
Это происходит на фоне того, что компания под руководством Альтмана склоняется к первичному публичному размещению акций (IPO), которое, по сообщению The New York Times в прошлом месяце, может состояться в 2027 году.
Source: www.aljazeera.com