Les avantages de l’IA open source : menace pour les modèles propriétaires.
La technologie de l’intelligence artificielle (IA) supérieure grâce à l’open source
Le débat sur l’IA et l’open source
Nous sommes de grands fans du code source ouvert gratuit et pensons que cela offre un produit supérieur et plus éthiquement viable à long terme. L’IA est une technologie émergente et les développeurs d’IA font en ce moment des choses qui ne peuvent être réalisées qu’en gardant leurs sources secrètes, et même cela de manière temporaire. Les gens réclament une IA sécurisée : une IA qui n’accomplira pas certains actes non éthiques. Ils le demandent, car ils ne veulent pas que quiconque puisse réaliser ces actes. Il s’agit de demander aux fabricants de marteaux individuels que personne ne puisse utiliser des marteaux pour briser des fenêtres. Ils pourraient concevoir des marteaux qui ne peuvent pas briser les fenêtres, mais ne pourront jamais empêcher les gens de créer leurs propres marteaux pour briser les fenêtres. C’est ce que réalise l’IA propriétaire. En s’assurant qu’ils sont les seuls à pouvoir construire une bonne IA et en ne servant que leurs produits finaux, ils garantissent que leur produit se comporte de manière sécurisée et que toute l’IA se comporte de manière sûre, car elles sont toutes des IA. Cela fonctionne sous l’hypothèse que personne d’autre qu’un ensemble limité de parties autorisées ne peut créer une IA qui vaille quelque chose.
L’IA open source viole cette hypothèse. Vous savez qu’avant la sortie de ChatGPT, il existait déjà une IA pour dénuder des photos de femmes. Est-ce éthique : non. Peut OpenAI y faire quelque chose : un peu, ils peuvent faire en sorte de surpasser tous les modèles d’IA plus petits sur tout sauf le comportement non éthique (y compris le marketing), de sorte que les fournisseurs d’IA non éthiques fassent faillite. C’est comme empêcher les personnes non handicapées de concourir aux Jeux paralympiques en entraînant les athlètes handicapés au-delà du niveau des personnes non handicapées. Est-ce que cela fonctionne pour toujours? Non.
Les avancées de l’open source en IA
Ce qui leur permet de faire cela? Ils sont ceux avec le matériel supérieur. Ils sont ceux avec les données les plus supérieures (car ils ont généralement plus de données). Ils sont ceux avec le logiciel supérieur (car ils peuvent embaucher des programmeurs plus sophistiqués). Ces avantages sont en train de se détériorer. De nos jours, vous pouvez régler un modèle IA sur un Raspberry Pi, donc ils n’ont que l’avantage de l’entraînement, mais parfois l’accord est meilleur et l’entraînement est également descendu à 1 000 000 $. Trop cher pour le moment, mais gardez un œil sur eux. En raison de leurs limitations matérielles, les modèles open source ont commencé à s’entraîner avec des données plus agressivement sélectionnées, ce qui leur permet de rivaliser en termes de qualité des données. Grâce à cela, il existe des projets comme OpenChat et Hugging Face qui rivalisent réellement en qualité avec ChatGPT. Ils ont été créés de manière ouverte et sont assez complexes, donc ces modèles eux-mêmes ne posent pas encore de problème jusqu’à ce que quelqu’un trouve comment les rendre facilement modifiables pour supprimer les mesures de sécurité. De plus, les appareils grand public incluent désormais des NPUs.
Comme le dit la loi de Joy “peu importe qui vous êtes, la plupart des personnes les plus intelligentes travaillent pour quelqu’un d’autre”. C’est également vrai pour l’IA et l’un des principaux moteurs de tout programme FOSS réussi. Tous ces développements sophistiqués réduisant le coût de la formation en IA sont disponibles pour moi, car ils étaient plus précieux en tant que droits de vantardise pour les développeurs d’IA intelligents que en tant qu’innovations pour de grandes coopérations qui disposent de ressources de toute façon. En fin de compte, non seulement l’IA open source sera compétitive, mais son développement deviendra tellement facile que la création de modèles criminels basés sur celui-ci deviendra réalisable et tout ce que nous pouvons faire pour lutter contre cela est de nous armer et faire en sorte que les modèles criminels ne puissent pas nous affecter. J’imagine un marché pour les vêtements trompeurs en IA émerger. Il existe déjà un marché pour la détection de contenu généré par IA.
Source : www.gamingonlinux.com
