Трюк, на который все попались. Какую иллюзию создает ChatGPT

чтобы взаимодействие с ними казалось нам живым, гладким и легким. Это облегчает их использование в различных ситуациях, от обслуживания клиентов до образования и развлечений.

До сих пор речь считалась уникальной человеческой способностью, однако достижения в области генеративного искусственного интеллекта (ИИ), на базе которого работают упомянутые чат-боты, вынуждают пересмотреть это представление.

Одним из наиболее характерных признаков человеческой речи является субъективность. Это проявляется как в словах или оборотах, передающих оттенки эмоций, так и в выражении личной точки зрения. Субъективность также включает в себя формирование мнений о событиях и использование контекстуальных или культурных элементов.

Первое лицо: «я» и «мы»

Одно из типичных проявлений субъективности человеческой речи — использование личных местоимений. Местоимения первого лица — «я» или «мы» — позволяют выражать собственные мысли и переживания. Местоимения второго лица — «ты» и «вы» — вовлекают в разговор другого человека, формируя взаимоотношения между двумя собеседниками. Это называется интерсубъективность.

Давайте рассмотрим относительно простой пример.

Пользователь: «Я навожу порядок в своем доме. Как мне решить, какие вещи оставить, какие пожертвовать, а какие выбросить?»

Размывание границы между человеческим и искусственным влияет на наше понимание подлинности

Чат-бот: «Отличный вопрос! Наведение порядка может казаться непосильной задачей, но четкая стратегия облегчит вам принятие решений. Вот несколько идей, как разобраться, что оставить, что пожертвовать, а что выбросить».

Чат-бот неявно использует первое лицо. Хоть он и не говорит «я» или «мне», он берет на себя роль советника или проводника, а фразы в духе «вот несколько идей» создают впечатление, что чат-бот делится с вами собственными соображениями.

Чат-бот занимает позицию помощника, то есть пользователь чувствует, что к нему обращаются от первого лица, даже если местоимения не используются. Кроме того, оборот «вот …» усиливает образ того, кто предлагает нечто ценное.

Второе лицо: сила «вы»

«Вы» (и другие его формы, например «вам») используются для прямого обращения к пользователю. В предыдущем примере это можно увидеть во фразе «облегчить вам принятие решений».

Обращаясь персонально к собеседнику, чат-бот стремится создать у него ощущение активного участия в разговоре, — подобный стиль речи часто используется в текстах, призванных вызвать у читающего интенсивное чувство вовлеченности.

Другие фразы, такие как «Отличный вопрос!», не только показывают, что запрос пользователя произвел позитивное впечатление, но и дополнительно усиливают вовлеченность. А такие формулировки, как «наведение порядка может казаться непосильной задачей», подразумевают общий опыт и создают иллюзию эмпатии, как если бы чат-бот разделял эмоции пользователя.

Искусственная эмпатия

Используя местоимения первого лица, чат-бот имитирует осведомленность и стремится создать иллюзию эмпатии. Занимая позицию помощника и используя второе лицо, он повышает вовлеченность пользователя и усиливает ощущение близости. Такое сочетание позволят создать впечатление человеческого общения, полезного собеседника, к чьим советам стоит прислушаться, даже несмотря на то, что эмпатия в данном случае — лишь результат следования алгоритму, а не реального понимания.

Привычка взаимодействовать с лишенными сознания сущностями, которые имитируют идентичность и личность, может иметь далеко идущие последствия, поскольку такое взаимодействие может влиять на вашу личную, социальную и культурную жизнь. По мере совершенствования подобных технологий будет все сложнее и сложнее отличить разговор с реальным человеком от разговора с системой, созданной на основе ИИ.

Это все большее размывание границы между человеческим и искусственным влияет на наше понимание подлинности, эмпатии и осознанного участия в общении. Мы даже можем начать относиться к чат-ботам с искусственным интеллектом, как к сознательным существам, что приведет к путанице в понимании их реальных возможностей.

Трудности в общении с другими людьми

Взаимодействие с машинами также может изменить наши ожидания от человеческих отношений. Чем больше мы будем привыкать к быстрому, гладкому и бесконфликтному общению, тем большим будет риск разочароваться в отношениях с реальными людьми.

Человеческое общение окрашено эмоциями, недоразумениями и сложностями. Постоянное взаимодействие с чат-ботами может со временем сделать нас более нетерпеливыми и ослабить способность справляться с конфликтами и мириться с естественными шероховатостями межличностного взаимодействия.

Больше того, продолжительный контакт с симуляцией человеческого общения ставит перед нами этические и философские дилеммы. Приписывая чат-ботам человеческие качества — например, способность чувствовать или иметь намерения, — мы можем начать задаваться вопросом, какова ценность сознательной жизни по сравнению с идеальной симуляцией. Это может положить начало дебатам о правах роботов и ценности человеческого сознания.

Взаимодействие с сущностями, которые, не обладая сознанием, имитируют человеческую личность, может изменить наше восприятие общения, отношений и личности. Хотя подобные технологии способны обеспечить большую эффективность, важно осознавать пределы их возможностей и потенциальное влияние на наш стиль взаимодействия — как с машинами, так и с друг с другом.

Перевод NV

NV обладает эксклюзивным правом на перевод и публикацию колонок The Conversation. Републикация полной версии текста запрещена.

Оригинал опубликован на The Conversation

Присоединяйтесь к нашему телеграм-каналу Погляди NV

Больше блогов здесь