Café TMNlab | IA et indépendance : créer ses propres outils ou l’open source contre les biais et la censure

Pour ce premier Café TMNlab de la saison 2025-2026, l’artiste et entrepreneuse Lydie Catalano, fondatrice d’IA Médical et IA Marketing, a partagé son parcours singulier — des Beaux-Arts à la création d’entreprises technologiques — et son engagement en faveur d’une intelligence artificielle ouverte, éthique et libre de censure. Son intervention met en lumière les tensions entre innovation, souveraineté, liberté créative et responsabilité collective.

Réécoutez l’enregistrement de l’échange

“Le contenu que vous souhaitez générer ne convient pas à nos politiques d’usages.” L’IA générative s’impose dans nos pratiques, mais derrière l’effet de nouveauté se posent des questions fondamentales : à qui appartiennent réellement les contenus générés ? Quelles données alimentent les modèles que nous utilisons ? Quels risques prenons-nous en confiant nos créations et notre savoir-faire à des plateformes fermées, souvent américaines, aux conditions d’utilisation opaques ? Comment travailler avec un medium qui oblitère une part de la décision dans votre processus de création ?

Pour beaucoup, le recours à ces outils semble une évidence. De son parcours d’artiste plasticienne à celui d’entrepreneure, Lydie Catalano, CEO d’IA Marketing, a choisi une autre voie : reprendre la main en développant leurs propres environnements. Elle viendra partager avec nous son parcours et son regard.

Issue des arts plastiques, elle s’est heurtée aux limites imposées par les outils du marché – des contenus censurés, des droits réduits à de simples licences, l’impossibilité de maîtriser la réutilisation des données. Plutôt que de subir, elle a fait le choix de bâtir un écosystème sur mesure : installation de modèles open source européens, tri et enrichissement de son propre fonds photographique, constitution d’une équipe pluridisciplinaire de développeurs pour sécuriser, affiner et héberger les outils en France.

Avec cette démarche, elle démontre que l’IA générative peut être autre chose qu’une boîte noire : un levier d’empowerment créatif, permettant d’intégrer toutes les diversités de corps et de représentations, un outil accessible aux petites structures, notamment artisanales et culturelles, qui veulent produire du contenu de qualité sans dépendre des géants, un choix stratégique, où la maîtrise technique et juridique devient une condition d’indépendance.

Ce Café TMNlab était l’occasion d’explorer avec elle les coulisses de cette aventure : quelles étapes, quelles compétences, quels usages, quelles perspectives pour nos métiers et nos organisations ?

En savoir plus sur Lydie Catalano :

Résumé des échanges

Histoire de mettre le sujet en abyme – mais sans open source, on est pas encore équipé – cette partie a été générée avec deux outils IA : l’un pour la transcription de l’enregistrement, l’autre pour l’analyse et le résumé.

« Ce n’est pas l’IA qui hallucine, ce sont les modèles généralistes comme ChatGPT, Claude ou Poe, entraînés sur des corpus non maîtrisés. »

De l’art à la technologie : un parcours d’indépendance

Formée aux Beaux-Arts et au cinéma, Lydie Catalano s’est orientée vers la technologie après une carrière d’enseignante et une expérience en marketing. En 2020, elle cofonde IA Médical, puis IA Marketing, avec l’ambition de « replacer l’humain au centre de la transformation numérique ». Ses premiers agents conversationnels en santé mentale datent d’avant l’explosion de l’IA générative :

« En 2020, on avait déjà un bot de prévention du suicide utilisé 200 fois par jour. »

Cette double approche — artistique et technique — nourrit aujourd’hui sa réflexion sur les biais culturels, la censure algorithmique et les limites des IA commerciales.

Critique des IA grand public : entre biais et aseptisation

Lydie dénonce les biais esthétiques et moraux des grands modèles :

« Ces outils sont d’excellents miroirs du monde, mais d’une partie du monde seulement. »
Les IA génératives, entraînées sur des corpus dominés par des références occidentales et masculines, reproduisent des stéréotypes, effacent certaines représentations — notamment le corps féminin, la vieillesse, la mélancolie ou la pauvreté.
« Si l’artistique ne peut plus montrer du nu, on va effacer un énorme morceau de notre culture. »

Elle parle d’une « aseptisation » de la création :

« J’ai montré un bustier de Charlize Theron à Claude : il lui a mis un col roulé. »

L’open source comme levier de liberté artistique et de souveraineté

Face à cette censure implicite, Lydie s’est tournée vers l’open source pour reprendre la main sur ses données, ses outils et son esthétique.
Elle a entraîné ses propres modèles d’image à partir de vingt ans de fonds documentaires personnels, installés sur un serveur local.

« J’ai zéro frais d’abonnement, mes données sont privées et j’ai 100 % de ma propriété intellectuelle. »

Les avantages sont clairs : indépendance, créativité, confidentialité. Mais elle souligne aussi les défis : coût matériel, nécessité de compétences techniques, travail collaboratif entre artistes et développeurs.

« On doit apprendre à parler le même langage : les techs vers les artistes, les artistes vers les techs. »

De nouveaux métiers, de nouvelles synergies

Lydie insiste sur la formation et la constitution d’équipes hybrides :

« Dans mon équipe, j’ai plus de développeurs que d’autres profils. Ce sont mes chefs opérateurs de la lumière numérique. »
Cette hybridation rappelle celle du cinéma, où les techniciens participent à l’acte artistique. Elle revendique l’IA comme un outil d’émancipation, notamment pour représenter des corps divers et imparfaits :
« Je veux pouvoir faire des filles rondes, des peaux abîmées… C’est une revanche contre tous ces biais. »

Des modèles alternatifs en tension avec les géants

Lydie analyse la rivalité entre grands modèles (ChatGPT, Claude, Mistral, Quen, Flux…) et solutions open source. Elle se montre critique envers les acteurs qui ont « renié leurs promesses d’ouverture » :

« Il n’y a plus de modèle open source chez Mistral depuis un an. »
« OpenAI s’appelait OpenAI pour une raison — et c’est de ça qu’est parti le conflit avec Elon Musk. »

Pour elle, l’avenir réside dans des modèles plus petits, localisés et spécialisés, adaptés à chaque usage :

« On ne croit pas à l’IA générale. Le futur, c’est le fine-tuning d’un modèle open source sur un fond bien pensé. »

Éthique, écologie et temporalité

Enfin, Lydie appelle à un usage raisonné et éthique de l’IA :

« Tout le monde veut utiliser ces outils pour tout et n’importe quoi. Il faut que ça s’arrête. »
Elle milite pour des modèles plus sobres, des usages d’experts, et une rééducation à la lenteur :
« Nos agents de marketing tournent sur des moments creux pour consommer moins. On apprend à nos utilisateurs à attendre. »

La conclusion du Café, portée par les échanges, ouvre sur une réflexion élargie : comment repenser nos rythmes, notre rapport à la productivité, à la vérité et à l’authenticité à l’ère de l’IA ?

« Je ne sais plus ce qui est vrai, mais au moins, on se pose enfin les bonnes questions. »

Pistes de réflexion

  • Comment garantir la liberté de création à l’ère des IA censurées et biaisées ?
  • Quelles conditions d’alliance entre artistes et développeurs permettent une réelle souveraineté numérique ?
  • Les modèles open source peuvent-ils devenir une alternative durable et écologique face aux grands systèmes centralisés ?
  • Comment préserver l’authenticité et la singularité dans un monde saturé de contenus synthétiques ?

Laisser un commentaire