Sommaire
Les problèmes liés à l’IA générative
Si l’intelligence artificielle générative est souvent utilisée de manière bénéfique pour aider les utilisateurs au quotidien, il est important de souligner ses aspects plus sombres. Récemment, un ingénieur de Microsoft et une start-up spécialisée dans l’analyse de grands modèles de langage ont mis en lumière les défaillances de ces outils.
Les dérives de l’IA générative en question
Shane Jones, ingénieur spécialisée dans l’IA chez Microsoft, a examiné de près Copilot Designer, un générateur d’images développé par Microsoft en collaboration avec OpenAI. Au cours des trois derniers mois, elle a réussi à produire des images à caractère offensant, violent ou sexuel, soulevant ainsi des inquiétudes quant à ces technologies.
L’ingénieur a exprimé ses préoccupations dans des courriers adressés à la Federal Trade Commission (FTC) et au conseil d’administration de Microsoft. Elle a notamment demandé à ce que Copilot Designer soit retiré de l’usage public jusqu’à ce que des mesures plus sécurisées soient mises en place.
Les réactions face aux critiques
En réponse aux préoccupations de Shane Jones, Microsoft a déclaré qu’ils prendront en compte les inquiétudes des employés et travailleront à améliorer la sécurité de leurs technologies. Malgré cela, l’ingénieur déplore le manque d’action de la part de certaines entreprises, citant l’exemple de Google qui a pris des mesures pour empêcher la génération d’images inappropriées par son outil Gemini.
Les analyses de Patronus AI
En parallèle, la start-up américaine Patronus AI a mené des tests sur différents modèles de langage, pointant du doigt l’utilisation de données protégées par le droit d’auteur. Selon eux, le modèle GPT-4 est l’un des plus problématiques en termes de respect des droits d’auteur, illustré par sa capacité à compléter des passages de livres sans autorisation dans de nombreux cas.
Les critiques envers les entreprises spécialisées en IA générative
Les plaintes à l’encontre des entreprises travaillant dans le domaine de l’IA générative se multiplient ces derniers mois. Le New York Times a récemment accusé OpenAI et Microsoft d’avoir enfreint massivement le droit d’auteur et d’avoir exploité commercialement des contenus sans autorisation pour former leurs technologies basées sur l’IA.
Source : CNEWS
