Fake reviews: l’AI minaccia la brand reputation del tuo hotel?

leggi l’articolo completo...

Offrite un servizio impeccabile, sfoggiate i vostri migliori sorrisi, fate sentire ogni ospite come il più caro amico e riceverete ottime recensioni. O forse no, non più almeno.

Nell’era dell’intelligenza artificiale, le basi per una solida brand reputation paiono vacillare sotto i colpi di recensioni vergate da chatbot, invece che da utenti reali.

Se 5 anni fa immaginare che una macchina potesse sostituire le peculiarità umane, in termini di capacità intellettive ed emotive, sembrava fantascienza, i fatti hanno presto smentito i più scettici. Pensate ad esempio al self check-in disponibile da qualche tempo in hotel, oppure ai robot insediati al desk della reception (casi rari, come in Giappone e Australia, ma reali).

Il 2023 marca un incredibile passo avanti nell’automazione, che diventa intelligente, talvolta empatica nei toni, a livelli (quasi) umani. L’AI sbarca nella quotidianità, rendendo sempre più labili i confini tra un contenuto prodotto da una persona e uno firmato da un chatbot.

Lo dimostra il fenomeno delle recensioni generate da ChatGPT, argutamente analizzato da The Guardian.

L’autorevole testata mette in guardia dalle minacce di un uso sfrenato e sempre più diffuso di strumenti basati sull’intelligenza artificiale generativa.

 

ChatGPT per hotel: minaccia o opportunità?

 

Preziosi alleati nella gestione di alcune funzioni business e leisure, come l’organizzazione di un viaggio, tali chatbot generano, dietro prompt adeguati, risposte sempre più in linea con il ragionamento umano, attingendo alle infinite informazioni disponibili sul web.

Mediante indicazioni su tono di voce e argomentazioni, ChatGPT – primo chatbot di Open AI sviluppato su parametri di machine learning e intelligenza artificiale generativa – restituisce in pochi secondi risultati straordinariamente vicini a quelli concepiti da una mente umana.

Partendo da alcuni test con fake reviews scritte da chatbot ma firmate apparentemente da utenti reali, il Guardian apre la riflessione su un aspetto ad oggi poco esplorato nell’ambito della brand reputation: quanto possiamo – e potete – fidarci delle recensioni online?

 

Fake reviews, ieri e oggi

 

Le fake reviews sono sempre esistite, ma in passato si trattava di utenti (o concorrenti) che si spacciavano per ospiti del vostro hotel insoddisfatti dal servizio, anche se non vi avevano realmente mai soggiornato. Le recensioni false di questo tipo spesso sono facilmente smascherabili: la forma è approssimativa, lodi sperticate (o accuse senza fondamento) si combinano a banalità sul servizio e la struttura, per nascondere il fatto che il recensore non abbia mai pernottato in hotel.

Finora il business delle recensioni false si concentrava in “sweatshop” online, che pagavano le persone per scrivere recensioni multiple nell’intento di accrescere il ranking di un’attività. Ci troviamo oggi però davanti ad un’evoluzione del fenomeno, facilitata dalla diffusione di ChatGPT e dalla sua incrementale ottimizzazione.

Il Guardian, a supporto delle sue tesi, menziona un test su ChatGPT, a cui è stato chiesto di scrivere una recensione di un hotel a Cracovia, in Polonia. Dopo un breve rifiuto iniziale, il sistema ha prodotto numerose recensioni false, sorprendentemente realistiche, di qualsiasi hotel, ristorante o prodotto richiesto. Nel corso del test, è stato anche notato che l’IA si basa su stereotipi nel generare le recensioni, ad esempio, attribuendo gusti specifici a viaggiatori gay o lesbiche.

 

Le misure dei portali

 

La testata britannica riporta un quadro potenzialmente allarmante, numeri alla mano: nel 2022 TripAdvisor ha identificato 1,3 milioni di recensioni false, mentre Trustpilot ne ha rimosse 2,7 milioni nel 2021. Google ha bloccato o rimosso un totale di 115 milioni di recensioni false di hotel, ristoranti e attività nel 2022. Questi dati indicano un livello industriale di falsificazione delle recensioni, nel tentativo di ottenere l’attenzione degli utenti. Le recensioni false hanno origine principalmente in India, seguita dalla Russia.

Le principali piattaforme di recensioni online si impegnano a individuare e rimuovere le recensioni false, ma pare evidente che a volte i rigidi controlli non bastano. TripAdvisor riconosce che le recensioni false generate dall’AI rappresenteranno nuove sfide nella lotta per separare le recensioni genuine da quelle mendaci. Nel suo rapporto sulla trasparenza delle recensioni del 2023, il colosso delle review afferma: “Ci aspettiamo di vedere tentativi da parte di aziende e individui di utilizzare strumenti come ChatGPT per manipolare i contenuti su TripAdvisor“.

TripAdvisor afferma di aver già rimosso più di 20.000 recensioni contenenti testo generato da IA nel corso dell’anno. Google dichiara di voler intraprendere azioni legali contro i recensori falsi più prolifici e afferma di rilevare la maggior parte delle recensioni che violano le politiche prima che vengano pubblicate.

Anche i legislatori hanno preso atto della disarmante diffusione delle recensioni false. Una ricerca commissionata dal governo britannico, pubblicata nell’aprile 2023, stima che tra l’11% e il 15% di tutte le recensioni nelle categorie di prodotto prese in considerazione siano false.

Una proposta di legge attualmente in discussione al parlamento del Regno Unito renderebbe illegale pagare qualcuno per scrivere una recensione falsa o ospitare recensioni senza verificare la loro autenticità.

Nonostante le contromisure adottate, l’uso dell’IA nel generare recensioni false rappresenta oggi una sfida per la brand reputation di un hotel. Una sfida difficile e impari sotto alcuni punti di vista, che potrete combattere a colpi di autentiche ed entusiaste recensioni di ospiti reali in struttura. Cosa aspettate a coccolare i vostri clienti?