Peut-on laisser une IA construire vos logiciels internes sans risque ?

Laisser une IA construire vos logiciels internes est sans risque quand deux choses sont vraies : la construction est cloisonnée, l'IA ne peut donc atteindre rien de ce qu'elle ne devrait pas, et vous possédez le résultat, vous n'êtes donc jamais piégé. Quand ces deux conditions tiennent, un logiciel construit par IA peut passer la même revue de sécurité qu'un logiciel écrit à la main. Le danger n'est pas que l'IA écrive du code, c'est qu'on lui donne une portée dont elle n'a pas besoin.

Voici ce qu'il faut regarder, et ce qu'il faut demander.

Les vrais risques

Trois risques reviennent sans cesse, et ils méritent d'être nommés clairement.

L'accès non gouverné. Les défaillances qui font les gros titres ne sont pas du mauvais code : c'est un agent qui pouvait écrire en production, lire des données vivantes ou appeler internet, et qui l'a fait. Le remède n'est pas un meilleur prompt. C'est de retirer la portée.

Les secrets et le code source divulgués. Si un outil lit votre dépôt ou votre base de données pour construire, vos secrets et votre code source peuvent voyager plus loin que vous ne le pensez, y compris jusqu'à un fournisseur de modèle. La question est de savoir ce que la construction peut voir, et où ce qu'elle voit peut aller.

L'enfermement. Un risque plus discret : l'application fonctionne, mais vous ne pouvez pas l'emporter. Elle tourne sur un runtime qui ne vous appartient pas, dans un modèle que vous ne pouvez pas exporter. Si l'éditeur change ses conditions ou disparaît, la reconstruction est pour vous.

Le cloisonnement par défaut

La réponse forte au risque d'accès est l'absence, pas les garde-fous. Une construction cloisonnée exécute chaque spécialiste IA dans un environnement isolé. Par défaut, il n'a aucun accès à vos bases de données et ne peut pas atteindre la production. Les appels réseau sortants ne vont que vers les destinations que vous autorisez. Chaque action de la construction est enregistrée et auditable, y compris par vos propres ingénieurs.

La différence entre « on demande à l'agent de ne pas toucher à la production » et « l'agent n'a aucun chemin vers la production » est la différence entre un garde-fou dont on espère qu'il tienne et une propriété du système. Exigez la seconde.

Vous gardez le code

La sécurité, c'est aussi la sortie. Avec Maleus, l'application entière, backend compris, arrive dans votre propre dépôt Git, sur une stack web standard, et se déploie sur votre propre cloud ou en on-premise. Vous pouvez en lire chaque ligne, la modifier, et la garder sans la plateforme. La propriété est ce qui transforme « nous dépendons de ça » d'un risque en un fait que vous maîtrisez.

Est-ce que ça peut passer une revue de sécurité

Oui, et la façon d'en être sûr est de rendre la construction relisible plutôt que de croire une affirmation sur parole. Parce que chaque action est enregistrée, votre équipe peut voir ce qui a été construit et comment. Parce que la construction est cloisonnée et n'a aucun accès permanent à vos systèmes, la surface à examiner est réduite. La construction elle-même est conçue pour être inspectée par ceux qui doivent la valider.

Ce qu'il faut demander avant de commencer

Une liste courte et honnête, valable pour n'importe quel AI app builder :

• La construction peut-elle atteindre la production ou vos données vivantes par défaut ? (Réponse attendue : non.)
• Où la construction peut-elle envoyer des données, et le trafic sortant est-il limité aux destinations que vous approuvez ?
• Chaque action de construction est-elle journalisée et auditable par votre propre équipe ?
• Recevez-vous l'application entière, backend compris, en code standard dans votre propre dépôt ?
• Pouvez-vous la déployer et l'exploiter sur votre propre infrastructure, sans runtime propriétaire au milieu ?
• Si vous cessez d'utiliser la plateforme, le logiciel continue-t-il de tourner et reste-t-il maintenable ?

Si les réponses sont les bonnes, laisser une IA construire vos logiciels internes n'est pas un acte de foi. C'est une livraison gouvernée que vous pouvez examiner comme n'importe quelle autre.