Новый чат-бот Snapchat с искусственным интеллектом уже вызывает тревогу среди подростков и родителей
Он работает на основе вирусного чат-бота с искусственным интеллектом ChatGPT и, как и ChatGPT, может предлагать рекомендации, отвечать на вопросы и общаться с пользователями.
Новый инструмент сталкивается с негативной реакцией не только со стороны родителей, но и со стороны некоторых пользователей Snapchat, которые бомбардируют приложение плохими отзывами в магазине приложений и критикой в социальных сетях из-за проблем с конфиденциальностью, «жутких» обменов и невозможности удалить функцию из своей ленты чата, если они не заплатят за премиум-подписку.
В то время как некоторые находят ценность в этом инструменте, неоднозначная реакция намекает на риски, с которыми компании сталкиваются при развертывании новой технологии генеративного искусственного интеллекта в своих продуктах, и особенно в таких продуктах, как Snapchat, пользователи которых молоды.
Snapchat был одним из первых партнеров по запуску, когда OpenAI открыла доступ к ChatGPT для сторонних компаний, и ожидается, что за ним последуют многие другие. Почти в одночасье Snapchat заставил некоторые семьи и законодателей считаться с вопросами, которые могли показаться теорией.
В письме к генеральным директорам Snap и других технологических компаний в прошлом месяце, через несколько недель после того, как My AI был выпущен для клиентов Snap по подписке, сенатор-демократ Майкл Беннет выразил обеспокоенность по поводу взаимодействия чат-бота с молодыми пользователями. В частности, он привел сообщения о том, что он может дать детям подсказки о том, как лгать родителям.
«Эти примеры были бы тревожными для любой платформы социальных сетей, но они особенно тревожны для Snapchat, которым пользуются почти 60 процентов американских подростков», — написал Беннет. «Хотя Snap признает, что My AI является «экспериментальным», он, тем не менее, поспешил привлечь американских детей и подростков к своему социальному эксперименту».
В сообщении в блоге на прошлой неделе компания заявила: «Наш искусственный интеллект далек от совершенства, но мы добились большого прогресса».
Реакция пользователей
В течение нескольких дней с момента официального запуска пользователи Snapchat открыто высказывали свои опасения. Один пользователь назвал его взаимодействие «ужасающим» после того, как он сказал, что оно солгало о том, что не знает, где находится пользователь. По его словам, после того, как пользователь изменил разговор, чат-бот точно показал, что он живет в Колорадо.
В другом видео TikTok, набравшем более 1,5 миллиона просмотров, пользователь по имени Ариэль записал песню с вступлением, припевом и фортепианными аккордами, написанную My AI, о том, каково это — быть чат-ботом. Когда она отправила записанную песню обратно, она сказала, что чат-бот отрицал свою причастность к ответу: «Извините, но как языковая модель искусственного интеллекта, я не пишу песни». Ариэль назвала этот разговор «жутким».
Другие пользователи поделились опасениями по поводу того, как инструмент понимает, взаимодействует и собирает информацию из фотографий. «Я сделал снимок... и он сказал «хорошие туфли» и спросил, кто эти люди на фотографии», — написал пользователь Snapchat в Facebook.
Snapchat продолжает совершенствовать My AI на основе отзывов сообщества и работает над созданием дополнительных ограждений для обеспечения безопасности своих пользователей. Компания также заявила, что, как и в случае с другими ее инструментами, пользователям не нужно взаимодействовать с My AI, если они этого не хотят.
Однако удалить My AI из лент чата невозможно, если пользователь не подписан на ежемесячный премиум-сервис Snapchat+. Некоторые подростки говорят, что они решили заплатить комиссию Snapchat за отключение инструмента, прежде чем быстро отменить услугу.
Но не всем пользователям не нравится это.
Одна пользовательница написала в Facebook, что она просила My AI помочь с домашним заданием. «Он правильно отвечает на все вопросы». Другая отметила, что она опирается на него за утешением и советом. «Я люблю свой маленький карман, лучшая подруга!» — написала она. «Вы можете изменить Bitmoji [аватар] для него, и, что удивительно, он предлагает действительно отличные советы в некоторых реальных жизненных ситуациях. … Мне нравится поддержка, которую он дает».
Ранний разбор того, как подростки используют чат-ботов
ChatGPT, который обучен на огромных массивах данных в Интернете, ранее подвергался критике за распространение неточной информации, отвечая пользователям способами, которые они могут счесть неуместными, и позволяя студентам списывать. Но интеграция инструмента в Snapchat рискует усугубить некоторые из этих проблем и добавить новые.
Александра Гамлет, клинический психолог из Нью-Йорка, сказала, что родители некоторых из ее пациентов выразили обеспокоенность по поводу того, как их подросток может взаимодействовать с инструментом Snapchat. Также есть опасения по поводу чат-ботов, дающих советы, и психического здоровья, потому что инструменты искусственного интеллекта могут усилить чью-то предвзятость подтверждения, облегчая пользователям поиск взаимодействий, которые подтверждают их бесполезные убеждения.
«Если подросток находится в негативном настроении и не имеет осознанного желания чувствовать себя лучше, он может искать разговор с чат-ботом, который, как он знает, заставит его чувствовать себя хуже», — сказала она. «Со временем подобное взаимодействие может подорвать чувство собственного достоинства подростка, несмотря на то, что они знают, что на самом деле разговаривают с ботом. В эмоциональном состоянии ума у человека становится все меньше возможностей рассматривать этот тип логики».
На данный момент ответственность за то, чтобы начать содержательные разговоры со своими подростками о передовых методах общения с ИИ, лежит на родителях, особенно по мере того, как эти инструменты начинают появляться в более популярных приложениях и сервисах.
Шинейд Бовелл, основатель WAYE, стартапа, который помогает подготовить молодежь к будущему с помощью передовых технологий, сказала, что родители должны четко дать понять, что «чат-боты вам не друзья».
«Они также не являются вашими терапевтами или доверенными советниками, и любой, кто взаимодействует с ними, должен быть очень осторожным, особенно подростки, которые могут быть более восприимчивы к тому, что они говорят», — сказала она.
«Родители должны сейчас говорить со своими детьми о том, что они не должны делиться ничем личным с чат-ботом, с которым они подружились, даже если с точки зрения дизайна пользователя чат-бот существует в том же уголке Snapchat».
Она добавила, что федеральное регулирование, которое потребует от компаний соблюдения конкретных протоколов, также необходимо для поддержания быстрых темпов развития ИИ.
