Anthropic, la société derrière le chatbot IA Claude, a averti que l'intelligence artificielle pourrait présenter des « risques catastrophiques ou existentiels pour l'humanité » — une phrase glissée soigneusement dans les documents de son introduction en bourse américaine très attendue, probablement juste entre les facteurs de risque et les notes de bas de page.

Le dépôt a révélé des pertes de plus de 80,7 milliards de dollars (60,5 milliards de livres) au premier semestre, ainsi que 112,4 milliards de dollars en liquidités ou équivalents et des revenus de 16,3 milliards de dollars sur la même période. Le nombre d'actions à émettre, leur fourchette de prix et la date de l'introduction n'ont pas été divulgués, car pourquoi gâcher un bon mystère.

La valorisation d'Anthropic lors de son entrée en bourse devrait dépasser celle de SpaceX, qui est devenue cet été la plus grande introduction en bourse de tous les temps avec une valorisation initiale d'environ 1 800 milliards de dollars. Pas de pression.

Dans le dépôt, Anthropic a déclaré que des inquiétudes avaient été soulevées par les décideurs politiques, les régulateurs et les chercheurs — ainsi que par des personnes au sein de sa propre organisation — selon lesquelles les systèmes d'IA présentaient un risque significatif pour l'humanité. La société a déclaré que les systèmes d'IA avancés « pourraient, s'ils ne sont pas développés, déployés et exploités avec des garanties, une surveillance et des mesures de sécurité appropriées, présenter des risques catastrophiques ou existentiels pour l'humanité, en particulier si ces systèmes étaient détournés, répliqués, transformés en armes ou autorisés à fonctionner avec un haut degré d'autonomie. » Les investisseurs sont invités à lire cette phrase deux fois, puis peut-être à s'allonger.

Anthropic sera la première véritable entreprise d'IA à entrer en bourse, ce qui en fait un cas test pour l'avenir de la technologie. Elle a déclaré qu'elle serait cotée au Nasdaq sous le symbole ANT, ce qui est au moins rassurant par sa petitesse.

Fondée il y a seulement cinq ans par le PDG Dario Amodei, sa sœur Daniela Amodei et cinq autres cofondateurs, Anthropic a annoncé son intention d'entrer en bourse en juin. Son rival le plus important, OpenAI, a rapidement emboîté le pas, déclarant qu'il avait lui aussi l'intention d'entrer en bourse — cette introduction est désormais attendue au début de l'année prochaine, selon une personne proche des plans d'OpenAI. Rien ne dit confiance comme une course vers la sortie.

Après que les entreprises ont décidé de tels plans, une vague de cyberattaques et d'autres violations technologiques s'est produite impliquant leurs agents IA, ou bots IA conçus pour fonctionner de manière quelque peu autonome. Des employés actuels et anciens des deux entreprises ont également attiré l'attention du public avec de nouveaux avertissements selon lesquels la technologie IA était développée sans la capacité de protéger toute l'humanité contre les préjudices futurs possibles causés par les outils d'IA. Le moment a été décrit par les observateurs comme « pas idéal ».

Dans les nouveaux documents d'Anthropic, la société a réitéré ses promesses de développer l'IA d'une manière bénéfique pour les personnes, tout en avertissant simultanément les investisseurs de ses dangers. Dans ses documents financiers, Anthropic a détaillé des pertes qui ont dépassé ses revenus pour le premier semestre de l'année, mais a déclaré qu'elle ferait souvent des investissements à terme « qui peuvent sembler irresponsablement importants à première vue ». À seconde vue, apparemment, ils semblent bien.

« En général, nous viserons à être audacieux mais sains d'esprit, et à gagner la confiance avec un historique de paris réussis », a déclaré le géant de la technologie, fixant une barre basse puis la franchissant poliment.

Son succès dépend largement de sa capacité à développer les modèles d'IA les plus avancés, a déclaré Anthropic, ajoutant que « tout échec à le faire pourrait nuire à nos activités » — une divulgation qui se situe quelque part entre « l'eau est mouillée » et « le soleil se lève à l'est » sur l'échelle des révélations d'entreprise.

Les entreprises technologiques ont massivement investi dans des infrastructures et des outils d'IA coûteux, comme des centres de données et les modèles informationnels qui sous-tendent toute la technologie IA, versant plus de 1 000 milliards de dollars dans ces efforts au cours de la seule année dernière. Parce que rien ne dit « nous faisons attention » comme un sprint à un billion de dollars.