Intelligence artificielle : Ippon Technologies appelle les entreprises à renforcer l’éthique et l’esprit critique

Près de 89 % des 16-25 ans ont déjà utilisé une intelligence artificielle générative et 82 % y auraient recours au moins une fois par semaine, selon une étude publiée le 3 août 2026 par Ippon Technologies. Le cabinet de conseil alerte les entreprises sur les enjeux éthiques, réglementaires et organisationnels liés à la généralisation de ces outils.

L’analyse porte notamment sur la santé mentale, les biais algorithmiques, la souveraineté numérique, l’entrée en application de l’AI Act et le développement d’agents d’intelligence artificielle spécialisés. Ippon Technologies invite les organisations à concilier innovation, conformité réglementaire, transparence et supervision humaine.

L’IA conversationnelle utilisée comme première écoute

L’étude relève une progression de l’utilisation des agents conversationnels par les jeunes pour aborder des questions liées à leur santé mentale. La solitude, les difficultés à exprimer certaines émotions et l’absence de jugement attribuée à ces outils favoriseraient leur recours comme premier interlocuteur.

Cette pratique soulève plusieurs questions concernant la sécurité des utilisateurs, l’authenticité de la relation, la responsabilité en cas de réponse inadaptée et les limites du traitement algorithmique de la souffrance humaine.

Ippon Technologies considère que l’intelligence artificielle peut constituer un outil d’accompagnement, mais qu’elle ne peut pas se substituer à un professionnel de santé.

De nouvelles obligations avec l’AI Act

L’entrée en application progressive du règlement européen sur l’intelligence artificielle impose de nouvelles obligations de gouvernance aux entreprises. Les dispositions concernant les systèmes considérés comme présentant un risque élevé entreront progressivement en vigueur entre 2026 et 2030.

Le texte prévoit, selon l’analyse, des sanctions pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial. La commercialisation de certains systèmes non conformes pourra également être interdite.

« L’IA est en train de passer du statut d’outil expérimental à celui d’infrastructure de décision. Cette évolution oblige les entreprises à changer de regard : la question n’est plus seulement “que peut faire l’IA ?”, mais “dans quelles conditions pouvons-nous lui faire confiance ?”. L’éthique, la gouvernance et l’esprit critique deviennent des facteurs de performance autant que de conformité », indique Yann Straub, Data & AI Transformation Leader chez Ippon Technologies.

Des biais à identifier et à documenter

Les systèmes d’intelligence artificielle reproduisent les caractéristiques des données utilisées pour les entraîner ainsi que les choix de leurs concepteurs. L’étude évoque notamment les biais culturels et de genre, mais aussi les différences pouvant exister entre les modèles développés dans différentes régions du monde.

Plutôt que de rechercher une neutralité complète, considérée comme inaccessible, Ippon Technologies recommande aux entreprises d’identifier les biais, de les documenter et d’en tenir compte dans leurs décisions.

La supervision humaine et le développement de compétences permettant d’évaluer les résultats produits par les modèles deviennent ainsi des éléments centraux d’une utilisation responsable.

La souveraineté numérique intégrée aux stratégies d’entreprise

Le développement de l’intelligence artificielle conduit également les organisations à examiner l’origine de leurs données, les infrastructures cloud utilisées et leur dépendance à des plateformes soumises à des réglementations étrangères ou extraterritoriales.

La maîtrise des données, la transparence des traitements et le recours à des infrastructures de confiance sont présentés comme des composantes d’une stratégie responsable. Ces enjeux dépassent le choix du modèle et concernent l’ensemble de la chaîne technique mobilisée pour entraîner, héberger et exploiter les systèmes d’IA.

Les managers confrontés aux agents IA

L’émergence d’agents capables de réaliser des tâches spécialisées modifie également l’organisation du travail. Leur déploiement nécessite une gouvernance adaptée, comprenant une mémoire structurée, l’orchestration de plusieurs agents, la validation croisée de leurs résultats et la formalisation des connaissances utilisées.

Les managers pourraient ainsi devoir superviser simultanément des collaborateurs et des systèmes autonomes ou semi-autonomes.

« Plus les entreprises déploient l’intelligence artificielle, plus elles doivent renforcer leur esprit critique. La valeur ne réside pas uniquement dans la performance des modèles, mais dans la capacité des organisations à les utiliser avec discernement, transparence et responsabilité », précise Jonathan Kakpeyen, Scrum Master et coach Agile chez Ippon Technologies.

L’éthique présentée comme un facteur de performance

Pour le cabinet, la qualité des données, la cybersécurité, la conformité réglementaire, la gouvernance et la supervision humaine constituent désormais des leviers de compétitivité autant que des outils de maîtrise des risques.

« Nous entrons dans une période où l’intelligence artificielle sera présente dans la plupart des décisions opérationnelles des entreprises. La véritable maturité ne consistera pas à utiliser davantage d’IA, mais à savoir quand lui faire confiance, quand la remettre en question et comment conserver l’humain au cœur des décisions. C’est cette capacité qui fera la différence entre les organisations simplement équipées et celles qui seront réellement prêtes pour l’ère de l’IA », souligne Yann Straub.