Google è stato lanciato Bardo, il suo rivale ChatGPT, nonostante le preoccupazioni interne che fosse un "bugiardo patologico" e producesse risultati "degni di nota", sostiene un nuovo rapporto. I lavoratori dicono che queste preoccupazioni sono state apparentemente ignorate in un frenetico tentativo di farlo raggiungi ChatGPT ed evitare la minaccia che potrebbe rappresentare L’attività di ricerca di Google.
Le rivelazioni provengono da a Rapporto Bloomberg in cui ho fatto un tuffo nel profondo Google Bardo e le questioni sollevate dai dipendenti che hanno lavorato al progetto. È un resoconto illuminante del modo in cui il chatbot è apparentemente uscito dai binari e dei dubbi che questi incidenti hanno sollevato tra i lavoratori preoccupati.
Ad esempio, Bloomberg cita un dipendente anonimo che chiese a Bard istruzioni su come far atterrare un aereo, poi rimase inorridito nel vedere che la descrizione di Bard avrebbe portato a un incidente. Un altro lavoratore ha detto che i consigli di Bard per le immersioni subacquee “potrebbero probabilmente provocare lesioni gravi o morte”.
Imparentato
- ChatGPT: le ultime novità, controversie e consigli che devi sapere
- Cos'è un prompt DAN per ChatGPT?
- Google Bard ora può parlare, ma può soffocare ChatGPT?
A quanto pare, questi problemi sono stati sollevati poco prima del lancio di Bard, ma Google ha continuato a fissare la data di lancio, tanto era il suo desiderio di tenere il passo con la percorso tracciato da ChatGPT. Ma lo ha fatto ignorando i propri impegni etici, dando luogo non solo a consigli pericolosi, ma anche alla potenziale diffusione di disinformazione.
Video consigliati
Correre avanti per il lancio
Nel 2021, Google si è impegnata a raddoppiare il proprio team di dipendenti che studiano le conseguenze etiche dell’intelligenza artificiale (AI) e a investire maggiormente nella determinazione dei potenziali danni. Eppure quella squadra è ora “privata di potere e demoralizzata”, afferma il rapporto Bloomberg. Peggio ancora, ai membri del team è stato detto di “non intromettersi o tentare di uccidere nessuno degli strumenti di intelligenza artificiale generativa in fase di sviluppo”, mettendo in discussione l’impegno di Google nei confronti dell’etica dell’intelligenza artificiale.
Questo è stato visto in azione poco prima del lancio di Bard. A febbraio, un dipendente di Google ha inviato un messaggio a un gruppo interno per dire: "Bard è peggio che inutile: per favore non lanciarlo", con decine di altri dipendenti che sono intervenuti per essere d'accordo. Il mese successivo, Jen Gennai, responsabile della governance dell’intelligenza artificiale di Google, ha annullato una valutazione del rischio secondo Bard potrebbe causare danni e non era pronto per il lancio, portando avanti il primo rilascio pubblico del chatbot.
Il rapporto di Bloomberg dipinge il quadro di un’azienda diffidente nei confronti delle preoccupazioni etiche che, a suo avviso, potrebbero ostacolare la redditività dei propri prodotti. Ad esempio, un lavoratore ha chiesto di lavorare sull’equità nell’apprendimento automatico, ma è stato ripetutamente scoraggiato, al punto da influenzare la revisione delle prestazioni. I manager si sono lamentati del fatto che le preoccupazioni etiche stavano ostacolando il loro “vero lavoro”, ha affermato il dipendente.
È una posizione preoccupante, soprattutto perché ne abbiamo già visti molti esempi Cattiva condotta del chatbot AI che abbia prodotto informazioni offensive, fuorvianti o addirittura false. Se il rapporto Bloomberg è corretto riguardo all’approccio apparentemente ostile di Google nei confronti delle questioni etiche, questo potrebbe essere solo l’inizio dei problemi causati dall’intelligenza artificiale.
Raccomandazioni degli editori
- Gli autori più importanti richiedono un pagamento alle aziende di intelligenza artificiale per l’utilizzo del loro lavoro
- GPT-4: come utilizzare il chatbot AI che fa vergognare ChatGPT
- Wix utilizza ChatGPT per aiutarti a creare rapidamente un intero sito web
- OpenAI, produttore di ChatGPT, affronta l'indagine della FTC sulle leggi sulla protezione dei consumatori
- Il traffico del sito web ChatGPT è diminuito per la prima volta
Migliora il tuo stile di vitaDigital Trends aiuta i lettori a tenere d'occhio il frenetico mondo della tecnologia con tutte le ultime notizie, divertenti recensioni di prodotti, editoriali approfonditi e anteprime uniche nel loro genere.
