Restez informé des mises à jour gratuites
Inscrivez-vous simplement au Intelligence artificielle Myft Digest – livré directement dans votre boîte de réception.
Les assureurs de Lloyd’s de Londres ont lancé un produit pour couvrir les entreprises pour les pertes causées par des outils d’intelligence artificielle défectueux, car le secteur vise à profiter des préoccupations concernant le risque d’hallucinations et d’erreurs coûteuses par les chatbots.
Les politiques élaborées par Armilla, une start-up soutenue par Y Combinator, couvriront les réclamations du coût du tribunal contre une entreprise si elle est poursuivie par un client ou un autre tiers qui a subi un préjudice en raison d’un outil d’IA sous-performant.
L’assurance sera souscrite par plusieurs assureurs de Lloyd et couvrira les frais tels que les paiements de dommages et les frais juridiques.
Les entreprises se sont précipitées pour adopter l’IA pour stimuler l’efficacité, mais certains outils, y compris les robots de service client, ont fait face à des erreurs embarrassantes et coûteuses. De telles erreurs peuvent survenir, par exemple, en raison de défauts qui font que les modèles de langue AI «hallucinent» ou inventent les choses.
Argent vierge excusé En janvier, après que son chatbot propulsé par l’IA a réprimandé un client pour avoir utilisé le mot «Virgin», tandis que le groupe DPD de Courier DPD l’année dernière a désactivé une partie de son bot de service client après avoir juré chez les clients et a appelé son propriétaire la «pire entreprise de services de livraison au monde».
L’an dernier, un tribunal a ordonné à Air Canada d’honorer une remise que son chatbot de service client avait composé.
Armilla a déclaré que la perte de la vente des billets à un prix inférieur aurait été couverte par sa police d’assurance si le chatbot d’Air Canada avait permis de performer moins que prévu.
Karthik Ramakrishnan, directeur général d’Armilla, a déclaré que le nouveau produit pourrait encourager davantage d’entreprises à adopter l’IA, car beaucoup sont actuellement dissuadées par les craintes que des outils tels que les chatbots se décomposent.
Certains assureurs incluent déjà les pertes liées à l’IA dans les erreurs générales technologiques et les politiques d’omissions, mais celles-ci incluent généralement de faibles limites aux paiements. Une politique générale qui couvre jusqu’à 5 millions de dollars en pertes pourrait stipuler un sublimit de 25 000 $ pour les passifs liés à l’IA, a déclaré Preet Gill, un courtier à Lockton, qui propose des produits d’Armilla à ses clients.
Les modèles de langue IA sont dynamiques, ce qui signifie qu’ils «apprennent» au fil du temps. Mais les pertes causées par les erreurs causées par ce processus d’adaptation ne seraient normalement pas couvertes par des erreurs technologiques typiques et des politiques d’omissions, a déclaré Logan Payne, courtier à Lockton.
Une erreur d’un outil d’IA ne serait pas suffisant pour déclencher un paiement sous la politique d’Armilla. Au lieu de cela, la couverture se déclencherait si l’assureur jugeait que l’IA avait performé en dessous des attentes initiales.
Par exemple, l’assurance d’Armilla pourrait payer si un chatbot donnait aux clients ou aux employés les informations correctes que 85% du temps, après avoir initialement fait dans 95% des cas, a indiqué la société.
«Nous évaluons le modèle d’IA, nous nous sommes à l’aise avec sa probabilité de dégradation, puis compenons si les modèles se dégradent», a déclaré Ramakrishnan.
Tom Graham, chef du partenariat chez Chaucer, assureur chez Lloyd’s qui souscrit les politiques vendues par Armilla, a déclaré que son groupe ne signerait pas les politiques couvrant les systèmes d’IA qu’ils jugent excessivement sujets à la rupture. “Nous serons sélectifs, comme toute autre compagnie d’assurance”, a-t-il déclaré.
