Google стартира Бард, негов съперник ChatGPT, въпреки вътрешните опасения, че е „патологичен лъжец“ и е довел до „ужасяващи“ резултати, се твърди в нов доклад. Работникът казва, че тези притеснения очевидно са били игнорирани в неистов опит да се наваксайте с ChatGPT и да предотврати заплахата, която може да представлява Бизнесът за търсене на Google.
Разкритията идват от a Доклад на Bloomberg в който се потопихме дълбоко Google Bard и проблемите, повдигнати от служители, които са работили по проекта. Това е отварящ очите разказ за начините, по които чатботът очевидно е излязъл извън релсите, и опасенията, които тези инциденти са породили сред загрижените работници.
Например Bloomberg цитира анонимен служител, който помолил Бард за инструкции как да приземи самолет, след което изпаднал в ужас да види, че описанието на Бард ще доведе до катастрофа. Друг работник каза, че съветите на Бард за гмуркане „вероятно ще доведат до сериозно нараняване или смърт“.
Свързани
- ChatGPT: последните новини, спорове и съвети, които трябва да знаете
- Какво е DAN подкана за ChatGPT?
- Google Bard вече може да говори, но може ли да заглуши ChatGPT?
Тези въпроси очевидно са били повдигнати малко преди Bard да стартира, според, но Google е изпреварила датата на пускане на живо, такова е било желанието му да бъде в крак с път, прокаран от ChatGPT. Но го направи, като същевременно пренебрегна собствените си етични ангажименти, което доведе не само до опасни съвети, но и до потенциално разпространение на дезинформация.
Препоръчани видеоклипове
Бърза напред за изстрелване
През 2021 г. Google обеща да удвои своя екип от служители, изучаващи етичните последици от изкуствения интелект (AI) и да инвестира повече в определянето на потенциалните вреди. И все пак този екип сега е „обезсилен и деморализиран“, се твърди в доклада на Bloomberg. Още по-лошо, на членовете на екипа беше казано „да не пречат или да се опитват да убият който и да е от генеративните AI инструменти в процес на разработка“, което поставя под въпрос ангажимента на Google към етиката на AI.
Това беше видяно в действие точно преди Бард да стартира. През февруари служител на Google изпрати съобщение до вътрешна група, за да каже: „Bard е по-лош от безполезен: моля, не стартирайте“, с десетки други служители, които се съгласиха. Следващия месец Джен Дженай, ръководител на управлението на ИИ на Google, отмени оценка на риска, според която Бард можеше да причини вреда и не беше готов за стартиране, напредвайки с първото публично издание на чатбот.
Докладът на Bloomberg рисува картина на компания, недоверчива на етичните опасения, които смята, че могат да попречат на рентабилността на собствените й продукти. Например, един работник поиска да работи върху справедливостта в машинното обучение, но многократно беше обезсърчаван до степен, че това повлия на прегледа на представянето им. Мениджърите се оплакаха, че етичните съображения възпрепятстват „истинската им работа“, заяви служителят.
Това е тревожна позиция, особено след като вече видяхме много примери за Неправилно поведение на AI чатбот която е създала обидна, подвеждаща или откровено невярна информация. Ако докладът на Bloomberg е верен относно привидно враждебния подход на Google към етичните проблеми, това може да е само началото, когато става въпрос за проблеми, причинени от AI.
Препоръки на редакторите
- Топ автори изискват заплащане от фирми за изкуствен интелект за използване на работата им
- GPT-4: как да използвате AI chatbot, който засрамва ChatGPT
- Wix използва ChatGPT, за да ви помогне бързо да създадете цял уебсайт
- Създателят на ChatGPT OpenAI е изправен пред разследване на FTC относно законите за защита на потребителите
- Трафикът на уебсайта на ChatGPT е спаднал за първи път
Надградете начина си на животDigital Trends помага на читателите да следят забързания свят на технологиите с всички най-нови новини, забавни ревюта на продукти, проницателни редакционни статии и единствени по рода си кратки погледи.
