Tim Cook n'est « pas sûr à 100 % » qu'Apple puisse arrêter les hallucinations de l'IA

Même le PDG d'Apple, Tim Cook, n'est pas sûr que l'entreprise puisse arrêter complètement les hallucinations de l'IA. Dans une interview avec le Washington Post , Cook a déclaré qu'il « ne prétendrait jamais » que son nouveau système Apple Intelligence ne générerait pas d'informations fausses ou trompeuses avec une confiance de 100 %.
« Je pense que nous avons fait tout ce que nous pouvions faire, notamment en réfléchissant très profondément à l'état de préparation de la technologie dans les domaines dans lesquels nous l'utilisons », déclare Cook. «Je suis donc convaincu que ce sera de très haute qualité. Mais je dirais en toute honnêteté que c’est loin de 100 pour cent. Je ne prétendrais jamais que c'est à 100 pour cent.
Apple a dévoilé lundi son nouveau système Apple Intelligence lors de sa conférence mondiale des développeurs, qui apportera des fonctionnalités d'IA aux iPhone, iPad et Mac . Ces fonctionnalités vous permettront de générer des réponses par e-mail, de créer des emoji personnalisés, de résumer du texte, etc.
Comme c’est le cas avec tous les autres systèmes d’IA, cela introduit également la possibilité d’hallucinations. Des exemples récents de la façon dont l'IA peut mal faire les choses incluent l'incident du mois dernier avec les aperçus de l'IA propulsés par Gemini de Google nous disant d'utiliser de la colle pour mettre du fromage sur la pizza ou un bug récent de ChatGPT qui l'a amené à cracher des réponses absurdes.
Apple a également annoncé son partenariat avec OpenAI pour intégrer ChatGPT dans Siri . L'assistant vocal se tournera vers ChatGPT lorsqu'il recevra une question mieux adaptée au chatbot, mais il vous demandera votre autorisation avant de le faire. Dans la démo de la fonctionnalité présentée lors de la WWDC, vous pouvez voir une clause de non-responsabilité au bas de la réponse qui dit : « Vérifiez les informations importantes pour détecter les erreurs ».
Interrogé sur l'intégration, Cook a déclaré qu'Apple avait choisi OpenAI parce que l'entreprise était un « pionnier » en matière de confidentialité et qu'elle disposait actuellement du « meilleur modèle ». Apple ne pourrait pas non plus s'associer à OpenAI à l'avenir. Cook a répondu : « Nous nous intégrons également à d'autres personnes. » Lundi, lors d'une session en direct post-keynote, le vice-président senior d'Apple, Craig Federighi, a déclaré qu'Apple pourrait également éventuellement intégrer Google Gemini sur iOS.