о том, как делать бизнес и жить устойчиво

Знать 07 марта, 13:03

Управляемое сердце: Плюсы и минусы эмоционального ИИ

Искусственный интеллект все больше будет контролировать наши эмоции. Есть повод поволноваться

img img

В сентябре 2017 года скриншот простого разговора с голосовыми помощниками стал вирусным в русскоязычном сегменте интернета. На нем была показана одна и та же фраза, адресованная двум помощникам: англоязычному и русскоязычному. Фраза была простой: "Мне грустно". Ответы на нее, однако, кардинально отличались. Англоязычный помощник ответил: "Мне хотелось бы иметь руки, чтобы тебя обнять", а русскоязычный ответ звучал так: "Никто не говорил, что жизнь — это веселье".

Это различие — не просто причуда в данных. Это результат сложного и чувствительного к культуре процесса обучения новых технологий в области понимания человеческих чувств. Искусственный интеллект (ИИ) — это уже не просто инструмент расчета ближайшего маршрута из точки А в точку В. Следующим этапом его развития может стать искусственный эмоциональный интеллект.

Какая польза для человека?

"Siri, я одинок" — все больше людей говорят эту фразу, обращаясь к голосовому помощнику. По данным Amazon, половина разговоров с "умным домом" Alexa — это общение о самых разных вещах, в том числе о сложностях на работе, стрессовом состоянии или других серьезных вопросах. Люди обращаются к Siri в чрезвычайных ситуациях или когда им нужно руководство по ведению более здоровой жизни.

Некоторые чувствуют себя комфортнее, когда открывают свои сокровенные чувства искусственному интеллекту. Исследование, проведенное Институтом креативных технологий в Лос-Анджелесе в 2014 году, свидетельствует о том, что люди спокойнее говорят о своих печалях и больше открываются, когда общаются с виртуальным, а не реальным персонажем. Это похоже на то, как мы пишем о своих переживаниях в личных дневниках — экран может выступать своеобразной защитой от внешних суждений и оценок.

Возможно, в ближайшем будущем нам и это не нужно будет делать. Несколько университетов и компаний изучают перспективы диагностики психических заболеваний и перепадов настроения, просто анализируя тон или темп голоса человека. Sonde Health, компания, основанная в 2016 году в Бостоне, использует голосовые тесты для мониторинга только что родивших женщин на предмет послеродовой депрессии и пожилых людей на предмет деменции, болезни Паркинсона и других возрастных заболеваний. Есть вероятность, что уже к 2022 году ваше персональное устройство будет знать больше о вашем эмоциональном состоянии, чем ваша собственная семья.

Технологии ИИ не просто выявляют границы разных эмоциональных режимов, они также подталкивают людей, которые взаимодействуют с ними, определять приоритеты определенных ценностей над другими. Каждый ответ помощника является признаком того, что алгоритмы становятся инструментом мягкой силы, методом привития определенных культурных ценностей. Гаджеты и алгоритмы дают роботизированную материальность тому, что древние греки называли "докса": "общее мнение, здравый смысл, повторяемый снова и снова, Медуза, которая превращает в камень любого, кто на нее смотрит". Так культуролог Роланд Барт определил этот термин в 1975 году. Если пользователи не следят за политикой ИИ, эмоциональные режимы, формирующие нашу жизнь, рискуют превратиться в бесспорную "доксу".

В то время как голосовые помощники ИИ могут повторять стереотипы и клише того, как следует обрабатывать эмоции, приложения для управления настроением делают шаг вперед, следя за тем, чтобы мы усваивали эти клише и руководствовались ими. Тесты, которые позволяют вам оценить и отслеживать ваше настроение, сегодня очень распространены. Некоторые приложения просят пользователя вести журнал, в то время как другие соотносят рейтинги настроения с GPS-координатами, перемещением телефона, записями вызовов и просмотрами. Собирая и анализируя данные о чувствах пользователей, эти приложения обещают лечить психические заболевания, такие как депрессия, беспокойство или биполярное расстройство, или просто помочь выйти из эмоционального пике.

По словам Феликса Фрейгана, исследователя из Свободного университета Берлина, эти приложения имеют три явных преимущества. Во-первых, они компенсируют структурные ограничения психотерапевтической и амбулаторной помощи, будучи ежедневно "на связи". Во-вторых, приложения для отслеживания настроения служат инструментами в кампании против стигмы психических заболеваний. И, в-третьих, благодаря приятному эстетическому дизайну, они настраивают человека на "счастливую волну".

Что может пойти не так?

Несмотря на свои достоинства, эмоционально-управляющие устройства усугубляют эмоциональный капитализм. Они питают представление о том, что путь к счастью измеряется с помощью шкал и количественных тестов, приправленных списками и точками с маркерами. Коучинг, самопомощь и когнитивно-поведенческая терапия (ТОС) основаны на предположении, что мы можем (и должны) управлять своими чувствами, дистанцируясь от них и рассматривая свои эмоции с рациональной точки зрения. Эти приложения продвигают идеал "управляемого сердца", используя выражение американского социолога Арли Рассела Хохшильда.

Возможно, нас сводит с ума само понятие контроля настроения и количественной оценки пользовательской обратной связи о гегемонистской культуре самооптимизации. В конце концов, эмоциональное исцеление обеспечивается тем же устройством, которое является источником чувства тревоги: смартфоны с электронной почтой, приложениями для знакомств и социальными сетями.

Шепот Siri, Alexa и других приложений сигнализирует пользователю о своей готовности обслуживать его почти по-рабски. Большинство этих программ феминизированы и это не совпадение — эмоциональный труд и статус раба имеют такую же характеристику. Таким образом, эмоциональные посылы, скрытые в этих технологиях, могут в конечном итоге тонко, но жестко подтолкнуть нас к тому, чтобы мы вели себя так, как требуют интересы сильных мира сего. Голосовые помощники, подбадривающие пользователей; приложения, которые отслеживают, как вы справляетесь с горем; программы, которые побуждают вас быть более продуктивными и позитивными; гаджеты, которые сигнализируют о том, что ваш пульс становится слишком быстрым — наличие инструментов для достижения счастья делает это стремление обязательным.

Вместо того чтобы подвергать сомнению систему ценностей, которая устанавливает такую высокую планку, люди становятся все более ответственными за свою неспособность чувствовать себя лучше. То есть технология стала и проблемой, и решением. Она действует как кнут и пряник, создавая достаточно неуверенности в себе и стресса, чтобы заставить вас не любить себя, и в то же время предлагает вам возможность выбраться из неприятностей.

Перефразируя философа Мишеля Фуко, эмоционально интеллектуальные приложения не только дисциплинируют, но и наказывают. Например, в видеоигре Nevermind в настоящее время используется технология биологической обратной связи, основанная на эмоциях, для определения настроения игрока и соответствующей настройки уровней и сложности игры. Чем больше напуган игрок, тем сложнее становится игровой процесс. Чем более расслаблен игрок, тем проще игра. Не нужно много времени, чтобы представить себе приложение для управления настроением, которое блокирует вашу кредитную карту, когда решает, что вы слишком возбуждены или слишком подавлены, чтобы принимать разумные решения о покупке. Это может звучать как антиутопия, но она в пределах досягаемости.

Мы существуем в петле обратной связи с нашими устройствами. Воспитание голосовых помощников неизменно превращается в воспитание пользователей. Невозможно предсказать, что ИИ может сделать с нашими чувствами. Однако, если мы рассматриваем эмоциональный интеллект как набор специфических навыков — распознавание эмоций, различие между чувствами и их обозначение, использование эмоциональной информации для управления мышлением и поведением — тогда стоит задуматься о том, что может произойти, как только мы перенесем эти навыки в наши гаджеты.

Взаимодействие с машинами уже изменило отношение людей друг к другу. С одной стороны, наше письменное общение все больше становится похожим на устное общение. Двадцать лет назад электронные письма все еще существовали в границах эпистолярного жанра; по сути, это были буквы, напечатанные на компьютере. А сегодняшние электронные письма все больше и больше напоминают посты в Твиттере: резкие, часто неполные предложения, напечатанные или продиктованные мобильному устройству.

"Все эти системы могут ограничивать разнообразие нашего мышления и взаимодействия с людьми", — говорит Хосе Эрнандес-Оралло, философ и ученый из Технического университета Валенсии в Испании. Хосе говорит, что, поскольку мы адаптируем свой собственный язык к языку и интеллекту наших сверстников, наши разговоры с ИИ действительно могут изменить способ общения друг с другом. Может ли наш язык чувств стать более стандартизированным и менее личным после долгих лет общения по личным поводам с Siri? Ведь чем более предсказуемо наше поведение, тем легче оно монетизируется.

Читайте также: Естетично і корисно: 9 Instagram-профілів для розширення кругозору

Быть в курсе самого интересного с ZZA! — можно, подписавшись наш Telegram!

Загрузка...
Информационный партнер проекта Ukr.net
Новости со всех уголков Украины на https://www.ukr.net/
Загрузка...