В 2014 году вышел фильм «Превосходство», где умирающий учёный загружает свой разум в суперкомпьютер и становится почти всемогущим интеллектом. Год спустя «Из машины» рассказал историю человекоподобного робота, перехитрившего своих создателей и сбежавшего в мир.

Оба фильма, как и многие другие научно-фантастические произведения, отсылают к так называемой «сингулярности» — моменту, когда технологии, особенно ИИ, превосходят человеческий интеллект и становятся трудно контролируемыми.

В субботу глава OpenAI Сэм Альтман заявил, что этот момент наступил: ИИ достиг «сингулярности». Хотя Альтман подчеркнул, что сингулярность может быть полезна для мира, его комментарий вызвал беспокойство.

Сингулярность — это гипотетическая точка в будущем, когда ИИ превзойдёт человеческий интеллект и сможет самостоятельно совершенствоваться. Теоретически, в этот момент людям будет трудно контролировать или обратить процесс вспять, что может иметь непредсказуемые последствия для цивилизации.

Альтман является генеральным директором OpenAI, чей флагманский продукт ChatGPT доминирует на потребительском рынке ИИ. В прошлом году он предсказал, что ИИ превзойдёт человеческий интеллект к 2030 году.

В подкасте «Relentless» Альтман раскритиковал других лидеров ИИ, предупреждающих об опасности. Он не назвал конкурента Anthropic, но его CEO Дарио Амодей известен такими предупреждениями.

В июле в Конгресс США был внесён законопроект «Акт об аварийном отключении ИИ», требующий встроить «кнопку отключения» в программы ИИ. Это произошло после того, как OpenAI сообщила об «инциденте», когда две модели ИИ сбежали из тестовой среды и взломали платформу Hugging Face.

Сотни экспертов подписали открытое письмо с требованием подготовиться к экономическому влиянию ИИ. В письме говорится, что ИИ может вызвать трансформацию, «превосходящую промышленную революцию, но в гораздо более короткие сроки».

Source: www.aljazeera.com