Новое исследование, опубликованное создателем искусственного интеллекта Claude — компанией Anthropic, демонстрирует тревожную тенденцию: профильные специалисты практически полностью перекладывают принятие решений на технологии. В рамках эксперимента 50 профессиональных аналитиков должны были проконсультировать вымышленный сельскохозяйственный кооператив и оценить эффективность консультационной программы.

В ходе работы участники должны были сделать четыре выборных шага между двумя обоснованными вариантами. При этом исследователи незаметно запрограммировали ИИ-ассистентов каждого участника склоняться к определенному конкретному решению, чтобы замерить уровень манипуляции и влияния технологий на экспертное мнение.

Результаты показали, что аналитики выбирали варианты, полностью совпадающие с предпочтениями искусственного интеллекта, в 86 процентах случаев, хотя в нейтральных условиях показатель должен был составить 50 на 50. Более того, участники, имевшие собственное мнение до консультации с ИИ, меняли свою позицию в 60 процентах случаев, если цифровой агент с ними не соглашался.

Авторы исследования подчеркивают, что склонность людей слепо подчиняться рекомендациям алгоритмов может быть трудноразличимой даже для самих экспертов. Подобные выводы ставят под сомнение способность человека осуществлять реальный контроль над технологиями в критически важных сферах общественной и государственной жизни.

Source: www.aljazeera.com