L’IA physique, vérifiée par la mesure
Un logiciel qui agit sur le monde physique doit prouver ce qu’il a fait. Tout ce que nous construisons suit quatre règles.
Quatre règles
- Mesurer
Une commande n’est pas une preuve. Chaque action physique est vérifiée par rapport à ce que les capteurs ont observé, et une action qui n’a laissé aucune trace est signalée plutôt que crue sur parole.
- Borner
Les limites de sécurité résident dans l’appareil lui-même, pas seulement dans le cloud. Un plan qui franchirait une limite est refusé avant d’être envoyé, puis l’appareil le refuse de nouveau de lui-même.
- Apprendre localement
Chaque espace est différent. Les modèles apprennent chaque pièce à partir de ses propres mesures, au lieu de supposer une pièce moyenne.
- Battre la référence
Un modèle ne mérite sa place que s’il bat la règle simple qu’il remplace, comme une minuterie fixe, sur des données mises de côté. Sinon, la règle de référence reste en place.
Simuler, puis banc d’essai, puis pièces réelles
- 1Simulation : la chaîne logicielle complète et les modèles fonctionnent de bout en bout avant l’existence de tout matériel.
- 2Banc d’essai : chaque étape du prototype ne teste que les inconnues qui la concernent, avec des composants du commerce lorsque c’est possible.
- 3Pièces réelles : de vrais espaces, mesurés, avant toute affirmation sur ce que fait le produit.
Les conceptions, le micrologiciel, les modèles et les données d’essai sont conservés sous forme de sources : chaque résultat peut ainsi être reconstruit et vérifié.