Alexa, l’assistente virtuale di Amazon, non è progettato per mettere in pericolo vite umane, ma è esattamente quello che ha fatto nello scorso fine settimana, quando ha detto a una bambina di 10 anni di toccare una spina elettrica con un penny.
Il suggerimento è stato dato tramite un altoparlante intelligente Echo dopo che la ragazza ha chiesto ad Alexa una “sfida da fare“.
“Inserisci il caricabatterie di un telefono circa a metà in una presa a muro, poi tocca un penny sui poli esposti“, ha detto Alexa. Un portavoce di Amazon ha detto che l’errore è stato corretto.
Kristin Livdahl, la madre della ragazza che, secondo quanto riferito, vive negli Stati Uniti, ha descritto l’incidente in un tweet domenica, che includeva uno screenshot dell’evento come è apparso nell’app Alexa per smartphone.
“Stavamo facendo alcune sfide fisiche, come sdraiarsi e rotolarsi tenendo una scarpa sul piede, da un insegnante [di educazione fisica] su YouTube prima“, ha scritto Livdahl in un altro tweet. “Fuori c’era brutto tempo. Voleva solo un’altra sfida”.
È stato allora che Alexa ha suggerito alla bambina ragazza di tentare la sfida che aveva “trovato sul web“. Alexa ha estratto la sfida da una pubblicazione di notizie online chiamata Our Community Now. Il sito web di notizie non ha risposto immediatamente a una richiesta di commento della CNBC e non è stato chiaro come abbia originariamente riportato la sfida avventata.
“Ero proprio lì quando è successo e abbiamo avuto un’altra bella conversazione sul fatto di non fidarsi di nulla da internet o da Alexa“, ha detto la madre.
La sfida potenzialmente letale, che Alexa apparentemente non è riuscita a controllare, ha iniziato ad apparire sulle piattaforme di social media tra cui TikTok circa un anno fa. È pericoloso perché i metalli conducono l’elettricità e l’inserimento di monete metalliche in una presa di corrente può provocare violente scosse elettriche e incendi, con alcuni rapporti di persone che hanno perso dita e mani per aver accettato la sfida.
“Alexa è progettata per fornire informazioni accurate, pertinenti e utili ai clienti“, ha detto il portavoce di Amazon alla CNBC. “Non appena siamo venuti a conoscenza di questo errore, abbiamo agito rapidamente per correggerlo”. Amazon non ha immediatamente elaborato su quale sia stata la “rapida azione”.
L’esperto di intelligenza artificiale Gary Marcus ha detto mercoledì su Twitter che l’evento mostra come i sistemi AI mancano ancora di buon senso. “Nessuna intelligenza artificiale attuale è lontanamente vicina alla comprensione del mondo fisico o psicologico di tutti i giorni“, ha poi detto Marcus alla CNBC via Twitter. “Quello che abbiamo ora è un’approssimazione all’intelligenza, non la cosa reale, e come tale non sarà mai veramente affidabile. Avremo bisogno di alcuni progressi fondamentali – non solo più dati – prima di arrivare a un’IA di cui ci possiamo fidare”.
Leave a Reply