IA : faut-il craindre d’être anéantis d’ici dix ans… ou de ne plus savoir décider sans elle ?

Par Raphaël Sanchez, président et CEO de Generix Group

« Un chercheur de 27 ans quitte Anthropic et écrit que son industrie joue avec nos vies. En une nuit, son message dépasse les cent millions de vues. On peut discuter du fond. On ne peut pas hausser les épaules sur la source. Et si on le lit vraiment, Jacob Coxon ne dit pas ce qu'on lui fait dire. Il ne dit pas que les modèles d'aujourd'hui sont dangereux. Il alerte sur une IA qui s'améliorerait elle-même, sans nous. C'est une hypothèse sérieuse, portée par des gens sérieux. Elle mérite mieux qu'un frisson. Ce scénario m'en évoque un autre, plus large. J'en parlais ce matin dans la voiture avec mon fils. C'est lui qui m'a sorti Huxley. Le Meilleur des mondes, 1932. Huxley n'imaginait pas une machine qui se retourne contre l'homme. Il imaginait une société si bien organisée qu'elle finit par décider à notre place ce qu'est une bonne vie. Tout fonctionne. Personne ne souffre. Plus personne ne choisit.

Le risque n'est pas seulement la révolte de la machine. C'est notre propre démission. Chez Generix, nous manipulons des milliards de données : une commande, une facture, une déclaration, un colis, un transport. Et l'IA sait faire des choses spectaculaires avec ce type de volumes : repérer l'anomalie, anticiper le retard, proposer trois scénarios là où nous en voyions un. C'est une puissance réelle, et nous y investissons. Mais le jour où elle décide seule et où plus personne dans l'entreprise ne sait reconstituer le raisonnement, nous n'avons pas gagné en intelligence. Nous avons perdu en responsabilité.

Alors ni rejet, ni IA partout. Trois exigences simples : un vrai problème à résoudre, un raisonnement explicable, une main humaine qui peut reprendre le volant. Si l'une des trois conditions manque, ce n'est pas de l'innovation, c'est de la délégation. On appelle ça une révolution technologique. Je crois qu'on se trompe de mot. Une révolution technologique se gère avec des budgets, des compétences et du temps. Ce qui se joue ici touche à la manière dont une société arbitre, hiérarchise et désigne un responsable quand quelque chose ne va pas. C'est un sujet de civilisation. Il ne se déléguera ni aux ingénieurs seuls, ni aux régulateurs seuls. Je reste profondément optimiste sur ce que l'IA va apporter. La vraie question n'est pas de savoir si la machine deviendra plus intelligente que nous. C'est de savoir si nous resterons assez intelligents pour décider ce que nous voulons en faire. »

Raphaël Sanchez