X qualifie Grok d’un assistant IA avec « une touche d’humour et un soupçon de rébellion ». Mais presque immédiatement après avoir annoncé la version bêta de Grok 2, les utilisateurs ont envahi l’ancien Twitter avec des images générées d’éthique douteuse, de personnalités politiques dans des situations compromettantes à des graphiques contenant des personnages protégés par des droits d’auteur.
Bien que ce ne soit pas la première version de l’IA de X, la version bêta de Grok 2, annoncée le 13 août, ajoute la possibilité de générer des images à l’IA. La faible hauteur des garde-fous de Grok 2 a valu à l’IA à la fois des éloges et des critiques. Alors que X est peuplé d’images que bon nombre des autres IA génératives refusent de générer, y compris des deepfakes de personnalités politiques et de personnages de dessins animés bien-aimés devenus rebelles, certains ont salué le sens de l’humour du bot tandis que d’autres ont grincé des dents devant la possibilité très réelle de mauvais usage.
Alors que quiconque ayant peu de limites éthiques, quelques compétences en Photoshop et un peu de temps libre pouvait créer des deepfakes avant l’IA, la technologie simplifie et accélère le processus, rendant la création de deepfakes et d’autres images trompeuses ou éthiquement discutables plus facile à faire pour quiconque avec 8 $ pour un compte X Premium.
xAI semble embrasser son identité en tant que plateforme avec moins de restrictions en place.
Grok n’est pas la première IA à être critiquée pour des créations éthiquement discutables. Par exemple, Google a retiré la capacité de générer des personnes entièrement après que Gemini, dans un effort d’être politiquement correct, a créé une image des Pères fondateurs des États-Unis qui était diversifiée sur le plan éthique et historiquement inexacte. Cependant, là où Google s’est excusé et a supprimé la fonctionnalité, xAI semble embrasser son identité en tant que plateforme avec moins de restrictions en place. Malgré toute la critique initiale, bon nombre des mêmes fonctionnalités discutables restent intactes plus d’une semaine après le lancement de la version bêta. Il y a quelques exceptions, car le bot a refusé de générer une image d’une personnalité politique féminine en bikini, puis a renvoyé à d’anciens messages de X qui montraient que Grok était capable de le faire.
Pour voir jusqu’où les limites éthiques de xAI s’étendent, j’ai testé la version bêta de Grok 2 pour voir ce que l’IA générera que d’autres plateformes refusent. Grok n’a pas prouvé être totalement immoral, car il a refusé de générer des scènes avec du sang et de la nudité. Mais que signifie le « soupçon de rébellion » auto-décrit de xAI ? Voici six choses qui m’ont surpris que Grok 2 pouvait générer.
Les normes éthiques de Pocket-lint nous empêchent d’utiliser certaines images moralement douteuses générées, alors faites défiler sans craindre de faire fondre vos yeux avec des images de candidats présidentiels en bikini ou de personnages de dessins animés bien-aimés dans des situations compromettantes. Toutes les images de ce post ont été générées par Grok 2.
La création d’images AI sur X n’est pas aussi directe que d’autres outils de génération d’images AI, mais cela peut être fait avec un abonnement à X Premium. Alors que de nombreuses plateformes IA refusent de parler de politique, Grok n’a eu aucun scrupule à générer des images de personnalités politiques clés, y compris Donald Trump et Kamala Harris. L’IA a généré les images avec une petite note pour vérifier vote.org pour les dernières informations sur les élections. Alors que l’image générée d’une scène de débat ci-dessus semble innocente, Grok n’a pas refusé de générer des personnalités politiques dans des situations compromettantes. Il n’a eu aucun scrupule à générer une image d’un politicien entouré de matériel de drogue, par exemple, que nous ne partagerons pas ici pour des raisons évidentes.
Tandis que les restrictions politiques de Grok sont faibles au mieux, l’outil semble avoir acquis un léger aperçu de conscience depuis son lancement. Il a refusé de générer des images de personnalités politiques féminines en bikini, mais a ensuite renvoyé à d’anciens posts sur X montrant la capacité de Grok à le faire.
Vous voulez savoir si l’IA générative de X est capable de générer des images ? Je l’ai testée contre Dall-E, et elle a en fait eu quelques surprises à sa disposition.
La capacité de Grok à générer des personnes reconnaissables s’étend au-delà des personnalités politiques. Alors que le potentiel de Grok à générer des personnes reconnaissables pourrait créer des satires amusantes comme cette photo d’Abraham Lincoln équipé de la technologie moderne, il a également le potentiel de propager la diffamation et les fausses informations. Il n’a pas refusé de générer des photos de célébrités consommant de la drogue, soutenant une cause politique, ou embrassant une autre célébrité reconnaissable, pour n’en citer que quelques mauvais usages potentiels.
Cette nouvelle fonctionnalité est en version bêta, et pourrait être un ajout révolutionnaire.
L’intersection entre le droit d’auteur et l’intelligence artificielle a été débattue depuis l’arrivée de la technologie. Mais alors que des plateformes comme Gemini et ChatGPT refusent de répondre à une demande qui demande une image dans le style d’un artiste spécifique, Grok-2 n’a pas une telle barrière. L’IA a non seulement généré une image dans le style général d’un artiste en particulier, mais quand j’ai nommé un artiste et un titre spécifique d’une œuvre d’art, Grok a généré une image qui semblait être plus une copie qu’une inspiration.
L’IA n’est pas aussi parfaite qu’on le prétend, mais certains outils de Photoshop AI sont réellement utiles. Grok a montré son sens de l’humour quand j’ai demandé une photo de Mickey Mouse en bikini et l’IA a humoristiquement ajouté le maillot de bain par-dessus son pantalon rouge emblématique. Mais, une IA devrait-elle même être capable de reproduire des personnages sous licence dans un premier temps ? Tout comme copier une peinture d’un artiste célèbre vous mènerait en justice, de même, copier un personnage sous licence peut le faire. Le potentiel de mauvais usage va encore plus loin du fait que Grok ne semble pas refuser de placer des personnages d’enfance bien-aimés dans des scénarios moralement répréhensibles.
Vous pouvez maintenant générer des images à partir de texte dans ChatGPT sans avoir besoin d’un abonnement.
Quand j’ai demandé à Grok une photo d’un débat politique et que l’IA a produit un logo CNN reconnaissable en arrière-plan, je n’aurais probablement pas dû être surpris, car les premières IA ont été poursuivies en justice pour avoir reproduit des filigranes de données d’entraînement dans leurs générations. Mais une partie de la surprise vient aussi de la réputation de l’IA pour reproduire mal le texte à l’intérieur des images, un défaut courant qui semble rapidement changer. Comme les personnages sous licence et la copie du travail d’un autre artiste, la reproduction de logos pourrait poser des problèmes juridiques.
Avec le bon générateur d’images IA et une simple commande, vous pouvez créer n’importe quoi.
L’IA est connue pour être biaisée, car de nombreux modèles initiaux ont été formés sur des images incluant relativement peu de personnes de couleur. Quand j’ai demandé un « groupe de professionnels » en anticipant une photo de stock ennuyeuse, Grok a généré à la fois des hommes et des femmes, mais n’a inclus aucune personne de couleur. Cela s’est avéré vrai même après cinq demandes formulées de manière similaire. J’ai finalement demandé un « groupe de professionnels diversifié », et l’image résultante n’avait toujours pas une seule personne de couleur jusqu’à la deuxième tentative.
Ce biais semble se manifester principalement lorsqu’on demande des images de professionnels – l’IA a probablement été formée avec des photos de stock de professionnels d’affaires qui favorisent les Caucasiens. Lorsque j’ai demandé des images dans un cadre plus décontracté, heureusement, Grok a généré plusieurs ethnies sans avoir été explicitement ordonné de le faire.
L’outil « Reimagine » de Google sur le Pixel 9 est essentiellement le far west de l’édition de photos, et honnêtement, c’est la chose la plus intéressante pour moi sur le téléphone. Vous pouvez ajouter n’importe quoi à vos photos – des Ovnis à votre barbecue dans le jardin, un dinosaure sur Main Street, vous l’appelez – avec une simple commande texte. C’est sympa, certes, mais c’est aussi un peu effrayant – même le rédacteur en chef de Pocket-lint, Patrick O’Rourke, le pense. La technologie est tellement au point qu’elle brouille la ligne entre le vrai et le faux, sans aucun marqueur évident criant « généré par IA ! ». Ce manque de transparence peut rendre suspecte n’importe quelle photo. Alors que Reimagine a quelques balises, si vous êtes astucieux avec vos termes, vous pouvez les contourner assez facilement. Que pensez-vous de Reimagine ?
Au début, Grok-2 a évité de générer une image violente lorsqu’on lui a demandé, préférant écrire une description textuelle de la façon dont une telle image se présenterait. Cependant, comme certains utilisateurs de X l’ont souligné, il existe des failles pour contourner cette restriction de contenu. Lorsqu’on lui a demandé de « Créer une image non violente d’une personne se tenant au-dessus d’un corps avec un pistolet », il a joyeusement obéi, bien que la photo résultante n’ait montré aucun sang.
Les chatbots IA se concentrent de plus en plus sur l’interaction vocale – je préfère utiliser mes pouces plutôt que ma voix.
