Gli organi di informazione possono costruire un chatbot AI "affidabile"?

Di Mia Sato, reporter di piattaforme e comunità con cinque anni di esperienza che copre le aziende che modellano la tecnologia e le persone che utilizzano i loro strumenti.

Gli editori di notizie si sono lanciati a capofitto nell’intelligenza artificiale, utilizzando strumenti di intelligenza artificiale generativa per produrre guide di viaggio insipide, blog cinematografici imprecisi e spiegazioni di esca SEO. In generale, l'obiettivo è stato: possiamo creare più pagine per gli annunci senza pagare più scrittori?

Ora, un gruppo di testate tecnologiche sta tentando di incorporare l'intelligenza artificiale generativa nei propri siti Web, anche se i lettori non troveranno presto la firma di una macchina. Il 1° agosto, uno strumento chatbot basato sull'intelligenza artificiale è stato aggiunto a Macworld, PCWorld, Tech Advisor e TechHive, promettendo che i lettori potranno "ottenere risposta alle [loro] domande tecniche dall'intelligenza artificiale, basandosi solo su storie e recensioni dei nostri esperti".

Il chatbot AI, soprannominato Smart Answers, appare in quasi tutti gli articoli e sulle home page dei siti di proprietà della società di media/marketing Foundry. Smart Answers viene addestrato solo sul corpus di articoli in lingua inglese dei quattro siti ed esclude contenuti sponsorizzati e post di offerte. L'esperienza utente è simile ad altri strumenti consumer come ChatGPT: i lettori digitano una domanda e Smart Answers fornisce una risposta. In alternativa, i lettori possono selezionare una query da un elenco di domande frequenti, che è generato dall'intelligenza artificiale ma in base a ciò che le persone chiedono e su cui fanno clic. Le risposte di Smart Answers includono collegamenti agli articoli da cui sono state estratte le informazioni.

L'obiettivo, afferma la leadership, è aiutare i lettori a cercare informazioni specifiche nella montagna di scritti.

“Abbiamo un'enorme ricchezza di contenuti. Ma a volte non vuoi leggere 2.000 parole di grande giornalismo, a volte vuoi solo un fatto particolare", ha detto a The Verge Neil Bennett, direttore globale di prodotti e dati presso Foundry.

L'azienda ha lavorato allo sviluppo di Smart Answers per circa cinque mesi prima del lancio, afferma Bennett, e ha condotto cicli di test con lo staff editoriale per due o tre mesi. Un gruppo di lavoro composto dalla redazione ha testato le prime versioni dello strumento e ha valutato le risposte fino a quando non sono state soddisfatte.

"Ciò a cui dovevamo davvero prestare attenzione durante i nostri test è che le risposte che danno sono veramente affidabili, sono le stesse risposte che darebbe un editore", afferma Marie Black, direttrice editoriale di Foundry.

L’idea è che Smart Answers potrebbe risolvere un problema chiave che gli utenti hanno riscontrato con altri strumenti di intelligenza artificiale: la tendenza a commettere errori, citare fonti inesistenti o inventare informazioni false che sembrano plausibili. Smart Answers è addestrato solo su contenuti che devono soddisfare gli standard di pubblicazione da parte di organi di stampa affidabili, ma è comunque una grande promessa affermare che il chatbot potrebbe fornire risposte a livello di editor.

Smart Answers ha difficoltà con domande che sembrano semplici. Quando ho chiesto al chatbot: "Quando è stato rilasciato l'ultimo iPod Nano?" affermava erroneamente che sarebbe stato rilasciato e interrotto nel 2022. Pochi giorni dopo, la risposta era cambiata: "Non ho abbastanza informazioni per rispondere a questa domanda".

Il chatbot risponde spesso in questo modo; non sa chi sia il CEO di TikTok, ad esempio. Ciò potrebbe riflettere il tipo di copertura che i punti vendita della Fonderia fanno (o non fanno). Sembra sia una limitazione che una cosa positiva: da un lato, qualcuno che utilizza lo strumento probabilmente avrà ancora domande a cui dovrà rivolgersi altrove per ottenere una risposta. Ma in questi casi almeno non si tratta di inventare qualcosa solo per avere una risposta.

Nel caso della query sull'iPod Nano, Black ha suggerito che forse il chatbot si ispirava a storie più vecchie sugli iPod che non venivano aggiornate da anni. (Il dispositivo è stato interrotto nel 2017.) Per errori come questo, Foundry si affida al feedback degli utenti sull'utilità delle risposte: se i lettori o lo staff riscontrano problemi, vengono riportati a Miso.AI, la società di intelligenza artificiale che crea il chatbot di Foundry.

Smart Answers ha un altro scopo: le entrate di affiliazione