Identifica le allucinazioni nelle risposte di Slackbot

I modelli linguistici di grandi dimensioni (LLM) che alimentano Slackbot a volte possono generare risposte che sono fattualmente inaccurate o che non hanno senso nel contesto di una conversazione. Queste risposte, note come allucinazioni, spesso sembrano plausibili e vengono fornite con grande sicurezza.

Continua a leggere per scoprire di più su come riconoscere le allucinazioni, sui modi per evitarle e su come segnalare sospette allucinazioni a Slack. 

Note: è importante esaminare in modo critico le risposte generate dall’IA e verificare personalmente le informazioni prima di usarle per prendere decisioni o condividere risposte con gli altri.

Come riconoscere le allucinazioni

Le risposte dell’IA in Slack contengono solo informazioni a cui hai accesso (come canali pubblici, canali privati di cui sei membro e i tuoi messaggi diretti), quindi, se vedi informazioni che non ti sono familiari, probabilmente si tratta di un’allucinazione. 

Quali allucinazioni può rilevare Slack

Ecco i tipi di allucinazioni che possiamo identificare e contrassegnare nelle risposte di Slackbot: 

• File e messaggi
  Link a file e messaggi che non portano da nessuna parte perché non esistono nell’area di lavoro di Slack o nell'organizzazione Enterprise.
• Persone e canali
  Riferimenti a persone o canali che non esistono.

Quando rileviamo una di queste allucinazioni, i link, i nomi di canali o le persone saranno sostituite con un tag di link non trovato, canale non trovato o utente non trovato. Se noti delle allucinazioni contrassegnate in una risposta, dovresti rivedere attentamente l’intera risposta per accertarti della sua correttezza. 

Cosa fare se Slackbot genera delle allucinazioni

Slackbot è stato addestrato per essere il più utile possibile, ma in alcuni casi non avrà abbastanza informazioni o contesto per fornire una risposta di qualità. Se Slackbot afferma “non lo so” o “non ho abbastanza informazioni per rispondere a quella domanda” e gli chiedi di provare di nuovo, senza fornire nuove istruzioni, probabilmente inizierà ad avere allucinazioni per poterti fornire una risposta soddisfacente. 

Usa questi suggerimenti per verificare le informazioni che Slackbot ti invia o per tornare sulla giusta strada quando ha difficoltà a fornire una risposta: 

• Chiedi di nuovo a Slackbot
  Fai a Slackbot la stessa domanda in una nuova chat e osserva se la nuova risposta è coerente con quella originale. 
• Mantieni brevi le conversazioni
  Se hai inviato molti messaggi nella stessa conversazione, avvia una nuova discussione per ridurre il rischio che Slackbot si confonda con le risposte precedenti. 
• Fornisci fonti specifiche
  Invece di dire “Cerca altrove per maggiori informazioni”, prova con “Questi non sono i canali giusti, usa invece #nome-canale e #nome-canale. Puoi anche cercare i messaggi di @persona”.

Segnala le allucinazioni

Se l’invio di feedback sulle risposte IA è abilitato per la tua area di lavoro o organizzazione, puoi segnalare le risposte che contengono informazioni allucinate. Queste segnalazioni ci aiutano a identificare schemi ricorrenti e a migliorare Slackbot. Ecco come fare: 

1. Da una risposta di Slackbot, clicca sul   pulsante pollice in giù. 
2. Spunta le caselle di fianco ai problemi che vuoi segnalare e, se vuoi,includi i messaggi della conversazione. Riceveremo sempre l’ultimo messaggio che hai inviato a Slackbot come parte del report. 
3. Clicca su Invia.