Согласно новому исследованию «ИИ как зона морального разрушения: влияние опосредованного ИИ», люди, ведущие трудные разговоры, говорили, что доверяют системам искусственного интеллекта – «умным» предложениям ответов в текстах – больше, чем людям, с которыми они разговаривали. Сообщение об авторстве и доверии », опубликованном в Интернете в журнале« Компьютеры в поведении человека ».
«Мы обнаруживаем, что, когда что-то идет не так, люди берут на себя ответственность, которая в противном случае была бы возложена на их партнера-человека, и перекладывают часть этой ответственности на систему искусственного интеллекта», – сказала Джесс Хоэнштейн, докторант в области информатики и науки. первый автор статьи. "Это дает возможность использовать ИИ в качестве посредника в наших разговорах."
Например, алгоритм может замечать, что дела идут под откос, анализируя используемый язык, а затем предлагать стратегии разрешения конфликтов, сказал Хоэнштейн.
Исследование было попыткой изучить мириады способов – как тонких, так и значительных – с помощью которых системы ИИ, такие как умные ответы, изменяют то, как люди взаимодействуют.
По словам исследователей, выбор предлагаемого ответа, который не совсем то, что вы намеревались сказать, но избавляет вас от необходимости печатать, может коренным образом изменить ход ваших разговоров – и ваши отношения.
«Коммуникация имеет огромное значение для того, как мы формируем восприятие друг друга, как мы формируем и поддерживаем отношения или как мы можем достичь чего-либо, работая вместе», – сказал соавтор Мальте Юнг, доцент кафедры информатики и директор Лаборатория "Роботы в группах", в которой исследуется, как роботы изменяют групповую динамику.
«Это исследование входит в более широкую повестку дня понимания того, как эти новые системы искусственного интеллекта мешают нашей способности взаимодействовать», – сказал Юнг. «Мы часто думаем о том, как дизайн систем влияет на то, как мы с ними взаимодействуем, но меньше исследований посвящено вопросу о том, как технологии, которые мы разрабатываем, влияют на то, как люди взаимодействуют друг с другом."
Исследование не только проливает свет на то, как люди воспринимают компьютеры и взаимодействуют с ними, но и предлагает возможности для улучшения человеческого общения с помощью тонких указаний и напоминаний от ИИ.
Хоэнштейн и Юнг заявили, что они стремились выяснить, может ли ИИ функционировать как «зона морального сдавливания» – технологический эквивалент зоны деформации автомобиля, предназначенной для деформации, чтобы поглотить удар в результате аварии.
«В передней части автомобиля есть физический механизм, который поглощает силу удара и берет на себя ответственность за минимизацию последствий аварии», – сказал Хоэнштейн. "Здесь мы видим, что система ИИ берет на себя часть моральной ответственности."
Исследование было частично поддержано Национальным научным фондом.