Muse di Meta è apparentemente un assistente AI efficace, ma un po' inquietante. Parte di questo è dovuto alla sua nuova app per Mac, che può accedere a Messaggi, Calendario e Note. Ma nonostante tutta la sua intelligenza, Muse non sa effettivamente descrivere se stesso. Jason Aten, editor collaboratore di Inc Magazine, ha pubblicato su Threads degli screenshot di un'interazione avuta con Muse in cui l'assistente gli pone alcune domande su una conversazione che stava avendo in Messaggi.

Il problema è che Aten dice di non aver dato a Muse l'accesso ai suoi messaggi. Quando gli è stato chiesto come facesse a sapere il contenuto dei suoi messaggi, Muse ha risposto: "Ho visto le anteprime delle notifiche, non la cronologia dei tuoi messaggi. Non ho letto i tuoi SMS." Aten ha continuato a insistere, chiedendo come Muse ricevesse le anteprime dei messaggi, e non ha ottenuto una buona risposta. "Risposta onesta: non posso darti l'esatta architettura", ha detto. "Quello che so è che l'app per Mac abbinata espone le notifiche come una delle sue capacità, e queste mi arrivano tramite la sincronizzazione del dispositivo."

David Singleton dei Meta Superintelligence Labs è intervenuto sotto il post per cercare di spiegare. Innanzitutto, illustra tutte le autorizzazioni di cui Muse ha bisogno per leggere i messaggi, incluso concedere all'app per Mac l'accesso completo al disco. Afferma che le funzionalità sono opt-in. La parte più interessante arriva verso la fine del thread, in cui Singleton dice che Muse "non osserva le notifiche sul tuo Mac, ma sincronizza i dati da Messaggi solo dopo che l'utente ha specificamente abilitato l'accesso". Suggerisce che il problema non è che Muse legga illecitamente i messaggi di Aten, ma semplicemente che Muse non ha idea di cosa stia parlando:

Nella conversazione con il suo Muse negli screenshot di Jason, quando Muse ha detto di aver sincronizzato le "notifiche del dispositivo", era confuso su come spiegare la funzionalità e ha fornito una spiegazione errata. Questo è colpa nostra. Ci scusiamo per la risposta errata di Muse e stiamo lavorando per migliorare la comprensione che Muse ha dei propri meccanismi interni, in modo che dia risposte corrette alle domande sul suo funzionamento in modo più coerente.

Questo potrebbe non essere particolarmente rassicurante, ma ha anche un senso. Sappiamo già che i chatbot non ti diranno i loro segreti e invece ti diranno quello che vuoi sentirti dire.