La plupart des gens ordinaires n’ont pas accès au type d’équipement, de composants et de connaissances qui leur permettraient de créer avec succès un danger aussi répandu. Mais avec la rapidité avec laquelle la technologie évolue et se révèle capable d’apprendre de nouvelles informations, elle pourrait éliminer bon nombre de ces obstacles.
Si l’IA progressait suffisamment pour permettre à une personne ordinaire de concevoir une menace de pandémie, elle rendrait des gens ordinaires capables de déclencher d’immenses dégâts.
Les chercheurs impliqués dans ce projet soulignent clairement qu’une certaine forme de surveillance gouvernementale est nécessaire, mais qu’elle doit être mise en œuvre de manière à ne pas étouffer le potentiel positif disponible.
Après tout, la plupart des personnes qui utilisent l’IA dans un contexte médical ne s’apprêtent pas à déclencher la prochaine pandémie mondiale. « La dernière chose que nous voulons faire est de couper les ponts avec l’industrie et de freiner nos progrès », a déclaré Cicero. « C’est un exercice d’équilibre. »
