Notes de Davos : 10 choses à savoir sur l’IA

Ce qui suit est un article invité de John deVadoss.

Davos en janvier 2024 portait sur un seul thème : l’IA.

Les vendeurs vendaient l’IA ; les États souverains vantaient leur infrastructure d’IA ; intergouvernemental les organisations délibéraient sur les implications réglementaires de l’IA ; les chefs d’entreprise faisaient la promotion des promesses de l’IA ; des titans politiques débattaient des connotations d’IA en matière de sécurité nationale ; et presque tous ceux que vous avez rencontrés sur la Promenade principale étaient éloquents sur l’IA.

Et pourtant, il y avait une hésitation sous-jacente : était-ce la vraie affaire ? Voici donc 10 choses que vous devriez savoir sur l’IA – le bon, le mauvais et le laid – rassemblées à partir de quelques-unes de mes présentations le mois dernier à Davos.

1. Le terme précis est IA « générative ». Pourquoi « génératif » ? Alors que les vagues précédentes d'innovation en matière d'IA étaient toutes basées sur l'apprentissage de modèles à partir d'ensembles de données et sur la capacité de reconnaître ces modèles lors de la classification de nouvelles données d'entrée, cette vague d'innovation est basée sur l'apprentissage de grands modèles (alias « collections de modèles »). , et être capable d'utiliser ces modèles pour générer de manière créative du texte, de la vidéo, de l'audio et d'autres contenus.
2. Non, l’IA générative n’est pas hallucinante. Lorsqu’il est demandé à de grands modèles préalablement formés de créer du contenu, ils ne contiennent pas toujours des modèles entièrement complets pour diriger la génération ; Dans les cas où les modèles appris ne sont que partiellement formés, les modèles n'ont d'autre choix que de « remplir les blancs », ce qui entraîne ce que nous observons comme des soi-disant hallucinations.
3. Comme certains d’entre vous l’ont peut-être remarqué, les résultats générés ne sont pas nécessairement reproductibles. Pourquoi? Parce que la génération de nouveau contenu à partir de modèles partiellement appris implique un certain caractère aléatoire et constitue essentiellement une activité stochastique, ce qui est une manière sophistiquée de dire que les résultats génératifs de l’IA ne sont pas déterministes.
4. La génération non déterministe de contenu ouvre en fait la voie à la proposition de valeur fondamentale dans l’application de l’IA générative. Le point idéal pour l’utilisation réside dans les cas d’utilisation où la créativité est impliquée ; s’il n’y a pas de besoin ou d’exigence de créativité, alors le scénario n’est probablement pas approprié pour l’IA générative. Utilisez-le comme un test décisif.
5. La créativité dans les petits domaines permet d'obtenir des niveaux de précision très élevés ; l'utilisation de l'IA générative dans le domaine du développement logiciel pour émettre du code qui est ensuite utilisé par un développeur en est un excellent exemple. La créativité à grande échelle oblige les modèles d’IA génératifs à combler de très grands vides ; c'est pourquoi, par exemple, vous avez tendance à voir de fausses citations lorsque vous lui demandez de rédiger un document de recherche.
6. En général, la métaphore de l’IA générative au sens large est l’Oracle de Delphi. Les déclarations oraculaires étaient ambiguës ; de même, les résultats de l’IA générative ne sont pas nécessairement vérifiables. Posez des questions d’IA générative ; ne déléguez pas les actions transactionnelles à l’IA générative. En fait, cette métaphore s’étend bien au-delà de l’IA générative et s’étend à l’ensemble de l’IA.
7. Paradoxalement, les modèles d’IA générative peuvent jouer un rôle très important dans les domaines de la science et de l’ingénierie, même s’ils ne sont généralement pas associés à la créativité artistique. La clé ici est d'associer un modèle d'IA génératif à un ou plusieurs validateurs externes qui servent à filtrer les résultats du modèle, et que le modèle utilise ces résultats vérifiés comme nouvelle entrée rapide pour les cycles de créativité suivants, jusqu'à ce que le système combiné produise le résultat désiré.
8. L’utilisation généralisée de l’IA générative sur le lieu de travail conduira à une grande fracture moderne ; entre ceux qui utilisent l’IA générative pour améliorer de manière exponentielle leur créativité et leur production, et ceux qui abdiquent leur processus de pensée au profit de l’IA générative, et se retrouvent progressivement mis sur la touche et inévitablement mis au chômage technique.
9. Les modèles dits publics sont pour la plupart entachés. Tout modèle formé sur l’Internet public a, par extension, été formé sur le contenu aux extrémités du Web, y compris le dark web et bien plus encore. Cela a de graves implications : la première est que les modèles ont probablement été formés sur du contenu illégal, et la seconde est que les modèles ont probablement été infiltrés par du contenu de cheval de Troie.
10. La notion de garde-fous pour l’IA générative est fatalement erronée. Comme indiqué au point précédent, lorsque les modèles sont corrompus, il existe presque toujours des moyens créatifs d’inciter les modèles à contourner les soi-disant garde-corps. Nous avons besoin d'une meilleure approche ; une approche plus sûre ; celui qui conduit à la confiance du public dans l’IA générative.

Alors que nous sommes témoins de l’utilisation et du mauvais usage de l’IA générative, il est impératif de regarder à l’intérieur et de nous rappeler que l’IA est un outil, ni plus, ni moins, et, en regardant vers l’avenir, de veiller à façonner nos outils de manière appropriée, de peur que nos les outils nous façonnent.

L'article Notes de Davos : 10 choses que vous devez savoir sur l'IA apparaît en premier sur CryptoSlate.