Tra algoritmi e menu: come l’intelligenza artificiale nei fast food condiziona le nostre scelte e controlla il personale.
L’intelligenza artificiale (AI) sta diventando una presenza abituale in ristoranti e fast food. La tecnologia, però, oltre ad agevolare alcuni compiti, potrebbe avere ripercussioni non neutre tanto sui clienti e le loro scelte quanto sul personale. Sarebbe dunque opportuno affrontarne anche gli aspetti etici prima di promuoverne l’impiego.
Nei giorni scorsi, a metterne in luce le criticità sono stati uno studio pubblicato sull’International Journal of Hospitality Management e l’annuncio fatto da Burger King dell’introduzione di Patty, un chatbot che teoricamente dovrebbe migliorare la gestione dei ristoranti e, soprattutto, controllare la gentilezza del personale.
Più AI, più cibo scadente
Lo studio condotto dai ricercatori dell’Università della Pennsylvania è nato da un’osservazione, a sua volta figlia della presenza di sistemi di AI soprattutto nei fast food drive thru, nei quali si ordina e si ritira rimanendo in auto, molto diffusi negli USA. A interagire con i clienti c’è sempre più spesso un chatbot, cioè un software, basato su intelligenza artificiale e NLP – Natural Language Processing, progettato per simulare conversazioni umane. Però gli effetti di questa tecnologia sulla percezione e sulle decisioni dei clienti non sono quasi mai presi in considerazione.
Per questo i ricercatori hanno reclutato oltre 110 persone e hanno chiesto loro di interagire con un essere umano o con un chatbot, e poi di guardare per un minuto un video che simulava una tra due possibili ordinazioni: la prima di junk food come cheeseburger e patatine fritte, la seconda di un pasto più sano come una bistecca alla griglia e una macedonia. Dalle risposte è emerso che i clienti che avevano interagito con l’AI erano più propensi a scegliere il menu peggiore.
Meno socialità e più stanchezza
Volendo capire perché si determini un simile condizionamento da parte dei chatbot, gli autori hanno reclutato altri 120 volontari, e questa volta hanno misurato il loro cosiddetto depauperamento cognitivo, ovvero la stanchezza mentale, e hanno così scoperto che interagire con un chatbot è più faticoso che farlo con un essere umano, perché richiede più concentrazione, più attenzione a che cosa si dice, e poi comporta ricordare ciò che si è detto e assicurarsi che l’AI abbia capito, senza i normali riscontri sociali che intervengono nel dialogo tra umani. Soprattutto quando l’ordine viene fatto dopo una giornata di lavoro, questa fatica spinge il cliente a cedere alle proprie tentazioni e a razionalizzare di meno la scelta, lasciandosi andare a ricompense quali un gelato. Quindi, anche se indirettamente, l’interazione con un sistema di AI condiziona le decisioni sempre nella direzione del cibo peggiore.
Una controprova arriva da un’ulteriore parte dello studio, condotta su altri 160 volontari, nella quale si è data al chatbot una parvenza umana tramite un avatar amichevole, creando così una situazione intermedia, attenuando con l’aspetto la freddezza dell’AI. In effetti il depauperamento cognitivo è risultato inferiore e le scelte leggermente migliori. Ciò significa che alcuni interventi anche solo a livello di design possono avere grandi ripercussioni sulla controparte umana.
Etica e intelligenza artificiale
E questo andrebbe tenuto sempre in considerazione, secondo gli autori, perché la possibilità di orientare le scelte dei clienti pone evidenti quesiti etici (e non solo nell’ambito della ristorazione): le aziende che vendono cibo di scarsa qualità potrebbero avvantaggiarsi del condizionamento e spingere in quella direzione. D’altro canto, gli stessi strumenti potrebbero essere sfruttati per promuovere un’alimentazione più sana. Di tutto ciò, i clienti probabilmente non si rendono conto e anche per questo sarebbe necessaria una discussione etica.
È interessante notare che da una parte molti fast food e non solo stanno implementando i chatbot, ma iniziano a essercene molti che, dopo averli installati, li eliminano, dopo aver avuto riscontri negativi dai clienti, non soddisfatti dell’interazione con l’AI, probabilmente non solo perché questa non è ancora perfetta.
E poi arriva Patty
Aspetti etici, del resto, sono anche stati sollevati in seguito all’annuncio dell’arrivo, nei primi 500 ristoranti statunitensi di Burger King, dell’AI chiamata Patty, un assistente vocale inserito direttamente in cuffia al personale, in teoria per aiutare i camerieri a essere più gentili. Realizzato con una tecnologia di OpenAI, cuore della piattaforma BK Assistant, Patty dovrebbe essere in grado di rispondere alle domande del personale sui piatti, sulla pulizia delle stoviglie o sullo stato delle scorte, correggendo i menu in tempo reale in caso ravvisi qualche criticità, per esempio, perché un certo piatto è finito. Ma poi dovrebbe fare anche un’altra cosa, inquietante: ascoltare le conversazioni tra personale e clienti per valutarle tramite un punteggio, e per suggerire eventuali miglioramenti, riferendo al gestore la valutazione del singolo lavoratore in tempo reale.
Una sorta di grande fratello che controllerà ogni parola e ogni gesto, su cui in molti stanno esprimendo più di un dubbio. L’obbiettivo dichiarato non è il controllo ma il coaching del personale, tecnica molto di moda che però, in questo caso, potrebbe essere più che altro la raffinata copertura di un supervisore digitale.
Entro il 2026 Patty dovrebbe essere introdotta nelle cuffie di tutti i dipendenti di tutti i ristoranti di Burger King in tutti i paesi.
© Riproduzione riservata Foto: Depositphotos
Giornalista scientifica
