Владелец Facebook Meta планирует ввести чат-ботов с разными личностями в свое приложение для социальных сетей. Запуск может состояться уже в сентябре этого года и станет вызовом для таких конкурентов, как ЧатGPT, но есть опасения, что это может иметь серьезные последствия для конфиденциальности пользователей.
Содержание
- Вопросы конфиденциальности
- Большой риск
Идея исходит из Файнэншл Таймс, в котором сообщается, что этот шаг является попыткой увеличить взаимодействие с Фейсбук пользователи. Новый инструмент может сделать это, предоставив новые возможности поиска или рекомендуя контент, и все это посредством человечных обсуждений.
Согласно источникам, на которые ссылается Financial Times, чат-боты будут принимать разных персонажей. в том числе «один, который подражает Аврааму Линкольну, и другой, который советует варианты путешествий в стиле серфер."
Связанный
- Apple годами тайно работала над конкурентом ChatGPT
- Хакеры используют искусственный интеллект для создания вредоносного ПО, заявляет ФБР
- Вот почему люди думают, что GPT-4 со временем может стать глупее
Это не первый раз, когда мы видим, как чат-боты меняют свою личность или общаются в стиле известных людей. Чат-бот Character.ai, например, может усыновить десятки разных личностей, в том числе знаменитостей и исторических деятелей.
Рекомендуемые видео
Вопросы конфиденциальности
Несмотря на обещания, которые могут показать чат-боты Meta, также были высказаны опасения по поводу объема данных, которые они, вероятно, соберут, особенно с учетом того, что у Facebook есть ужасный рекорд при защите конфиденциальности пользователей.
Financial Times цитирует Равита Дотана, советника по этике ИИ и исследователя, который сказал: «Как только пользователи взаимодействуют с чат-бот, он действительно раскрывает гораздо больше своих данных компании, так что компания может делать с ними все, что захочет. данные."
Это не только повышает вероятность далеко идущих нарушений конфиденциальности, но и допускает возможность «манипулирования и подталкивания» пользователей, добавил Дотан.
Большой риск
Другие чат-боты, такие как ChatGPT и Bing Chat, история «галлюцинаций», или моменты, когда они делятся неверной информацией — или даже дезинформацией. Потенциальный ущерб, вызванный дезинформацией и предвзятостью, может быть намного выше для Facebook, у которого почти четыре миллиарда пользователей, по сравнению с конкурирующими чат-ботами.
Прошлые попытки Meta создать чат-ботов не увенчались успехом: BlenderBot 2 и BlenderBot 3 быстро превратились в вводящий в заблуждение контент и подстрекательские ненавистнические высказывания. Это может не дать пользователям больших надежд на последние усилия Meta.
С приближением сентября у нас, возможно, осталось совсем немного времени, чтобы увидеть, сможет ли Facebook преодолеть эти трудности. препятствия, или если у нас будет еще один пронизанный галлюцинациями запуск, подобный тем, которые пострадали в других местах в промышленность. Что бы ни случилось, будет интересно посмотреть.
Рекомендации редакции
- ChatGPT: последние новости, споры и советы, которые вам нужно знать
- Сообщается, что конкурент Apple ChatGPT «значительно отстает от конкурентов»
- Даже OpenAI отказался от попыток обнаружить плагиат ChatGPT
- GPT-4: как использовать чат-бота с искусственным интеллектом, который затмит ChatGPT
- Что такое приглашение DAN для ChatGPT?
Обновите свой образ жизниDigital Trends помогает читателям быть в курсе быстро меняющегося мира технологий благодаря всем последним новостям, забавным обзорам продуктов, проницательным редакционным статьям и единственным в своем роде кратким обзорам.
