Latest / L'humain hackeur du digital / Combien de salariés utilisent l'IA sans votre accord ?

Transcript

Combien de salariés utilisent l'IA sans votre accord ? · L'humain hackeur du digital

0:00
Bonjour à tous et bienvenue dans ce nouvel épisode l'humain à coeur du digital.
0:05
Aujourd'hui,
0:06
vous nous connaissez,
0:07
on va parler sans doute intelligence artificielle,
0:10
mais pas que.
0:11
On va aussi parler de cybersécurité,
0:13
les deux thèmes ensemble.
0:15
Et là vous vous dites mais de quoi ils vont parler ?
0:17
Et bien on va parler de Shadow
0:19
IA, Shadow Intelligence Artificielle.
0:22
Et pour cela on accueille
0:24
Thomas Schall.
0:25
Donc salut Thomas.
0:27
Salut Julie.
0:28
Super.
0:29
Voilà,
0:29
déjà,
0:29
ça commence bien.
0:30
On s'est dit bonjour.
0:31
Donc,
0:32
ça a beaucoup de belles choses qui vont se passer,
0:35
je le sens.
0:36
J'adore ce programme et ce sujet.
0:38
Et pourquoi on a décidé de parler de Shadow Intelligence Artificielle ?
0:42
Parce que ça fait un petit moment que tous les deux,
0:44
on est dans l'informatique,
0:46
dans le digital,
0:47
dans les nouvelles technologies.
0:48
Oui,
0:48
on est plutôt jeunes,
0:49
il faut quand même qu'on se le dise,
0:51
Thomas.
0:51
Surtout moi.
0:52
Toi,
0:52
t'as changé.
0:54
Et on a beaucoup entendu parler à une certaine époque,
0:57
je dirais il y a entre 10 et
0:59
5 ans,
1:00
de
1:01
Shadow IT.
1:03
Et ce terme est un peu parti parce qu'on en a fait un peu un parti pris et c'était ok pour l'ensemble des directions de services informatiques.
1:11
Et là,
1:11
on parle de Shadow IA.
1:14
On est plutôt content que ce terme revienne parce que ça nous permet,
1:17
ça nous donne l'opportunité de parler d'intelligence artificielle,
1:21
à la fois côté cyber,
1:22
mais aussi à la fois côté...
1:23
opportunités.
1:24
Donc,
1:25
c'est parti.
1:27
Thomas,
1:27
avant toute chose,
1:28
est-ce que tu peux nous dire,
1:29
non pas ce que c'est l'intelligence artificielle,
1:31
bien évidemment,
1:32
mais ce que c'est le Shadow IA ?
1:34
Eh bien,
1:34
le Shadow IA,
1:36
en soi,
1:36
c'est un petit peu la même chose que le Shadow IT.
1:38
Qu'est-ce que c'était le Shadow IT ?
1:39
C'était l'usage inconnu,
1:42
non maîtrisé,
1:43
non validé par l'IT interne d'outils qui permettait de rendre certaines choses plus simples ou de...
1:51
ou de rendre des process un petit peu différents dans l'entreprise.
1:56
Le Shadow IA,
1:56
c'est exactement la même chose.
1:58
C'est l'utilisation non connue,
2:01
non maîtrisée,
2:02
non autorisée par l'informatique interne dans les entreprises d'outils d'intelligence artificielle.
2:09
Alors,
2:09
il y a quand même une différence qui est fondamentale,
2:12
c'est que le Shadow IT,
2:13
en son temps,
2:14
c'était des outils.
2:16
Le Shadow IA,
2:17
aujourd'hui,
2:17
c'est plutôt des fonctions cognitives.
2:20
qui vont être utilisés par les utilisateurs de l'entreprise.
2:24
Et ça se voit encore moins que le Shadow IT,
2:28
parce qu'à l'époque du Shadow IT,
2:29
il fallait installer un logiciel,
2:32
utiliser un process.
2:33
Alors que le Shadow IA,
2:35
c'est dans un navigateur,
2:36
ou pire,
2:37
sur mon smartphone,
2:38
où je vais pouvoir utiliser des outils d'une très grande richesse qui vont me permettre,
2:45
ou qui vont permettre aux utilisateurs de l'entreprise d'avoir un fonctionnement différent.
2:50
Ça c'est le Shadow IA et aujourd'hui la problématique pour les DSI c'est que c'est très difficile de l'intercepter,
2:58
de le conscientiser et d'avoir surtout une vision de l'étendue de ce qu'est le Shadow IA au sein des entreprises.
3:06
Exactement et c'est pour ça qu'on est là aujourd'hui dans ce podcast.
3:10
Est-ce qu'avant qu'on approfondisse la partie problématique ou risque potentiel pour l'entreprise,
3:16
quelles sont les différentes formes ?
3:18
de Shadow IA que tu as déjà vu dans les entreprises ou qui sont courantes ?
3:22
Alors effectivement il y a plusieurs formes et je pense même que vous les connaissez déjà toutes parce que tout le monde s'est très rapidement approprié l'intelligence artificielle générative,
3:35
agentique et toutes les formes d'intelligence artificielle qui sont à notre disposition aujourd'hui,
3:41
grand public ou pas d'ailleurs.
3:43
et on va retrouver...
3:44
Selon moi,
3:45
trois grands types d'intelligence artificielle que s'approprient les utilisateurs dans ce contexte de Shadow IA,
3:52
ce sont premièrement les intelligences artificielles génératives,
3:57
celles que l'on utilise au travers du navigateur pour la plupart,
4:03
comme ChatGPT,
4:04
comme Gemini,
4:07
comme Copilot,
4:08
pour les plus connus et qui sont très simples.
4:12
à utiliser,
4:13
que les gens se sont appropriés de manière très rapide.
4:15
Cloud,
4:15
Mistral,
4:15
c'est bien aussi de donner des françaises.
4:17
Exactement,
4:19
comme ChatGPT,
4:20
comme Gemini,
4:21
comme Copilot,
4:22
comme Mistral,
4:23
comme Cloud,
4:23
Dantropic ou toutes ces intelligences artificielles génératives qui permettent de gagner en productivité,
4:30
en efficacité,
4:32
qui simplifient un certain nombre de tâches et qui permettent par ailleurs d'uploader de la donnée sur laquelle elle va travailler.
4:40
Ça,
4:41
c'est le premier grand type d'intelligence artificielle qu'on constate dans les usages de Shadow IA.
4:46
Le deuxième grand type,
4:47
ce sont les intelligences artificielles qui sont d'ores et déjà incluses dans les fonctions métiers ou dans les logiciels métiers pour les différents services des entreprises.
4:58
Prenez par exemple le marketing.
5:00
Le marketing qui va utiliser des outils de marketing,
5:04
de montage vidéo,
5:06
de génération d'images qui sont déjà enrichis par des fonctions d'intelligence artificielle sans que ça soit quelque chose qui soit connu ou maîtrisé par l'IT interne.
5:17
Et le troisième grand type d'intelligence artificielle à laquelle on est confronté dans le cadre de ShadowIA,
5:24
c'est l'intelligence artificielle qu'on fait rentrer dans l'entreprise.
5:28
Par exemple,
5:29
des intelligences artificielles qu'on va utiliser pour générer des scripts ou des programmes qui vont nous permettre de manipuler des données en interne,
5:39
ce qui pose la question potentiellement de l'altération de ces données ou de leur légitimité sur le long terme.
5:46
Est-ce qu'on est capable de dire sur le long terme,
5:49
avec l'usage d'intelligences artificielles par les collaborateurs,
5:53
que notre donnée n'a pas été modifiée ou altérée au fil du temps ?
5:58
C'est dans ce troisième cas d'usage que tu parles aussi de la création d'applications,
6:05
enfin de développement,
6:07
quand tu parles de programme,
6:08
est-ce que tu parles aussi effectivement du côté code ?
6:12
Bien sûr,
6:13
bien sûr,
6:14
je parle à
6:15
100% du côté code par des intelligences artificielles toujours encore grand public.
6:22
On a mentionné tout à l'heure
6:24
Cloud, qui est un outil qui s'appelle Cloud Code,
6:26
que l'on installe sur la machine.
6:28
de l'utilisateur et qui va pouvoir générer du code ou des programmes ou des intelligences artificielles génératives focussées sur la création de contenus web ou code comme Loveable par exemple qui va nous permettre de développer des
6:46
dashboards web par exemple mais que je vais pouvoir faire tourner sur ma machine et dans laquelle je vais pouvoir injecter de la donnée de l'entreprise ou pire
6:57
qu'elle-même va pouvoir aller chercher de la donnée d'entreprise.
7:00
Tout ce qui va être vibe coding.
7:02
Tout à fait.
7:04
Donc là,
7:04
on a bien vu les différents cas d'usage liés au shadow
7:08
IA.
7:09
Et pour toi,
7:10
quels sont les risques et les problématiques liés à cette partie-là ?
7:15
Eh bien,
7:15
j'ai un peu teasé tout à l'heure,
7:17
mais les risques les plus connus,
7:20
les problématiques les plus connues qui sont déjà intégrées par tout le monde,
7:23
c'est la fuite de données.
7:25
Ça,
7:25
c'est la première grosse problématique,
7:27
c'est la fuite de données.
7:29
Où potentiellement,
7:30
dans votre utilisation de l'intelligence artificielle,
7:34
vous allez uploader des documents,
7:37
vous allez télécharger des documents d'appel d'offres,
7:40
des résumés de mails,
7:41
des mails pour en faire un résumé,
7:44
des comptes rendus,
7:45
des réunions.
7:46
et tout ça peut contenir des éléments qui sont importants pour votre entreprise,
7:51
qui constituent votre savoir-faire,
7:53
qui constituent votre...
7:55
ADN et que,
7:56
en tout état de cause,
7:57
on n'aurait pas envie de se dire qu'elles vont être disponibles à n'importe qui via l'utilisation d'intelligence artificielle.
8:06
Donc,
8:06
ce premier risque,
8:07
c'est l'exfiltration de la donnée.
8:10
Et paradoxalement,
8:11
c'est un risque que tout le monde intègre déjà,
8:14
tout le monde,
8:14
on entend beaucoup de gens dire que la problématique de l'intelligence artificielle,
8:18
c'est l'exfiltration de la donnée.
8:20
J'aimerais bien qu'on fasse quand même un petit retour en arrière parce qu'on est très alarmiste sur le fait de sortir de la donnée de l'entreprise par l'usage de l'intelligence artificielle.
8:28
Mais en réalité,
8:29
c'est quelque chose qui est déjà dehors depuis bien longtemps.
8:31
La plupart des entreprises utilisent des services collaboratifs et de messagerie qui sont déjà hébergés depuis bien longtemps.
8:38
Donc,
8:40
nos outils collaboratifs et a fortiori de messagerie contiennent déjà des données critiques à l'entreprise.
8:47
Et donc,
8:47
par nature,
8:48
elles ne sont déjà plus...
8:49
dans l'entreprise.
8:50
Donc même si effectivement c'est un risque,
8:52
on ne va pas se dire en conscience je vais alimenter les intelligences artificielles grand public avec le savoir-faire de mon entreprise,
9:00
bien entendu,
9:01
mais je pense qu'il faut relativiser parce que des choses sont déjà dehors et pour autant nos entreprises fonctionnent encore.
9:08
Ça c'est le premier point.
9:09
Le deuxième point où l'usage de l'intelligence artificielle par le biais du shadow IA peut être une problématique pour nos données,
9:17
C'est quand on fait rentrer l'intelligence artificielle dans nos entreprises.
9:22
Je le disais tout à l'heure,
9:23
et c'est en ça que je disais que j'ai teasé,
9:25
c'est qu'on utilise de plus en plus l'intelligence artificielle,
9:30
notamment l'intelligence artificielle agentique,
9:33
celle qui produit,
9:35
sans nous,
9:36
sans notre regard de contrôle,
9:39
des éléments qu'on va pouvoir utiliser au sein de nos entreprises.
9:42
Et la plupart du temps,
9:43
ce sont des scripts ou des programmes.
9:45
qui vont manipuler de la donnée à notre demande pour en produire de la nouvelle.
9:51
Exemple,
9:52
j'ai cinq tableaux Excel qui contiennent cinq analyses de sources différentes dans une problématique spécifique.
10:00
Je vais demander à mon agent IA de fabriquer un programme en Python,
10:04
en VB ou en que sais-je pour utiliser ces cinq fichiers Excel structurés différemment mais qui parlent de la même chose et m'en sortir un nouveau qui contient ma donnée consolidée.
10:19
Donc à ce moment-là,
10:20
mon intelligence artificielle,
10:21
elle va créer des choses dans mon entreprise en manipulant ma donnée.
10:26
Et ça,
10:26
ça peut évidemment constituer un risque.
10:29
parce que quel est le regard de l'IT sur cette manipulation et quelle est ma certitude que ma donnée de base n'a pas été altérée par l'intelligence artificielle.
10:40
Ça,
10:40
ce sont vraiment pour moi les deux gros risques de l'utilisation non maîtrisée de l'intelligence artificielle dans nos entreprises.
10:47
C'est le fait de faire sortir de la donnée ou le fait d'altérer de la donnée en interne.
10:53
Il y a un sujet que tu n'abordes pas qui est le fait que quand on fait du vibe coding,
10:58
Alors nous on est plutôt pro-vibe coding en règle générale,
11:01
mais quand on fait du vibe coding,
11:04
le code des fois peut,
11:07
qu'est-ce qu'on pourrait dire,
11:08
peut avoir des...
11:10
Vulnérabilités.
11:11
Merci beaucoup Thomas.
11:13
Osons le mot,
11:14
bien entendu.
11:15
Ça aussi c'est peut-être une problématique si le responsable du service informatique ou d'autres dirigeants de l'entreprise n'ont pas cette vision-là qu'on fait du vibe coding.
11:27
et que du coup,
11:28
on peut avoir des programmes avec des codes vulnérables.
11:33
Tout à fait.
11:33
Et là,
11:34
on va aussi refaire un petit regard dans le passé où concernant la cybersécurité des entreprises,
11:41
il y a plusieurs années,
11:42
plusieurs dizaines d'années,
11:45
le focus était fait sur les fonctions métiers ou sur les usages des logiciels.
11:50
Puis,
11:51
petit à petit,
11:52
on s'est rendu compte que ça n'était plus...
11:54
suffisant et qu'il fallait intégrer de la cybersécurité à nos productions,
11:58
à nos infrastructures,
11:59
qu'il fallait intégrer des droits pour nos utilisateurs pour éviter que la donnée puisse être altérée ou que des utilisateurs puissent avoir accès à de la donnée qui est potentiellement vulnérable.
12:14
Donc pour ce faire,
12:15
les
12:16
DSI, les services informatiques des entreprises,
12:19
ont dû avoir une visibilité sur ce qui se passait dans l'entreprise.
12:22
Ce qui a été possible au fur et à mesure des années par les stratégies cybersécurité qu'ont mis en place les entreprises.
12:28
Et bien avec l'utilisation d'intelligence artificielle qui code,
12:32
on va créer des nouveaux programmes dans les entreprises qui échappent complètement à la maîtrise des services informatiques et qui peuvent avoir du code vulnérable ou qui peuvent avoir du code non conforme aux attendus de cybersécurité qui
12:48
sont d'ailleurs parfois mentionnés dans les politiques de sécurité des systèmes d'information.
12:52
des entreprises.
12:53
Il y a un risque que tu n'as pas abordé,
12:55
et je voudrais un peu connaître ton avis sur cette partie-là,
12:59
qui est relative à la partie shadow,
13:02
intelligence artificielle.
13:04
Tu as parlé de la partie cyber,
13:05
de la partie
13:06
IT, digital,
13:08
de l'altération de la donnée,
13:09
de la fuite de données,
13:11
bien évidemment,
13:12
mais l'utilisation de l'intelligence artificielle,
13:14
elle peut aussi amener quelque chose d'important,
13:18
de non...
13:19
palpable tout de suite,
13:20
immédiatement,
13:21
qui est l'uniformisation de la manière dont on communique en interne et aussi en externe auprès de nos clients,
13:29
auprès de nos fournisseurs.
13:30
Je voudrais juste avoir un peu ton avis sur cette partie-là.
13:33
Bien sûr,
13:34
c'est aussi un point important.
13:36
J'allais dire une problématique,
13:37
je ne suis pas sûr que ça en soit réellement,
13:38
mais c'est un point qu'il ne faut pas sous-estimer.
13:41
Aujourd'hui,
13:42
les entreprises,
13:43
elles ont peut-être tout un métier qui est similaire,
13:47
mais...
13:47
Une entreprise A ne le fera pas comme une entreprise B et sa signature sur le sujet,
13:52
son ADN,
13:53
ne sera pas le même que ses confrères ou ses concurrents sur un même marché.
13:58
L'utilisation à très grande échelle de l'intelligence artificielle générative et particulièrement grand public qui ne connaît pas grand chose à notre propre fonctionnement va avoir cette conséquence de lisser des échanges.
14:10
Et on le voit déjà aujourd'hui quand quelqu'un nous envoie un email qui a été traduit.
14:15
ou récapitulé par l'intelligence artificielle,
14:17
on le sent.
14:18
On reconnaît des choses dans la structuration des IA parce que tout le monde utilise plus ou moins les mêmes intelligences artificielles grand public et elles ont cette signature un petit peu que l'on sent dans les échanges.
14:29
Et le risque,
14:30
et ça c'est notamment palpable rapidement sur les fonctions de communication,
14:36
c'est de retrouver des choses qui se ressemblent et de perdre notre unicité,
14:41
notre savoir-faire spécifique sur un métier.
14:44
particuliers et la saveur un petit peu de nos entreprises.
14:48
Exactement,
14:49
l'exhausteur de goût.
14:50
Exactement,
14:51
l'ADN qui fait la différence entre une entreprise A et une entreprise B.
14:55
Au-delà de ses technologies,
14:57
de son savoir-faire industriel,
14:59
c'est aussi la manière
15:00
dont elles communiquent.
15:01
Et je pense que c'était important aussi de le dire.
15:04
Bien évidemment,
15:05
on sait que la plupart du temps,
15:07
nos podcasts sont plutôt écoutés ou regardés par des responsables informatiques.
15:11
Et ça,
15:11
ça peut être aussi un sujet qu'eux peuvent aborder avec leurs dirigeants,
15:15
leurs services de communication,
15:16
s'il y en a un,
15:18
parce que c'est important.
15:20
Une fois qu'on a dit tout ça...
15:22
Alors,
15:23
permets-moi un petit aparté,
15:24
Julie,
15:24
parce qu'à ce propos de qui doit gérer le Shadow IA ?
15:28
Le Shadow IT,
15:29
c'était clair,
15:30
c'était l'IT qui devait le gérer.
15:32
C'était de sa responsabilité.
15:33
Exactement.
15:35
Le Shadow IA,
15:35
est-ce que c'est toujours le cas ?
15:37
Moi,
15:37
je n'en suis pas absolument certain parce que,
15:39
certes,
15:40
ce sont des outils qui sont utilisés et ils sont utilisés avec des moyens informatisés.
15:45
Mon ordinateur,
15:46
mon téléphone.
15:47
Mais pourquoi on les utilise ?
15:49
Tout sauf pour l'IT à proprement parler.
15:51
On va utiliser l'intelligence artificielle pour faire des récapitulatifs de réunion.
15:56
pour consolider des chiffres,
15:58
pour traduire des éléments,
16:00
pour créer de la donnée autour de mon environnement métier.
16:05
Il n'y a pas beaucoup d'informatique dans ce que je viens d'évoquer.
16:08
Donc le Shadow IA,
16:10
pour faire le lien avec ce que tu viens d'évoquer,
16:12
est certes probablement managé par l'IT parce qu'il va falloir y mettre de la vision,
16:18
mais c'est un problème de direction.
16:21
L'appropriation de l'intelligence artificielle
16:24
Par les collaborateurs de l'entreprise,
16:26
c'est une question d'innovation et de compétitivité.
16:29
Ça doit forcément aller plus loin que les services informatiques.
16:33
Mais là,
16:34
on touche du doigt quelque chose qui est aujourd'hui hyper important,
16:37
c'est aussi le changement du métier de l'informatique et des directions de services informatiques,
16:45
des responsables informatiques,
16:47
qui est avant très tourné.
16:50
autour de l'infrastructure et des outils d'infrastructure mis à disposition des fonctions métiers.
16:56
De la technologie.
16:57
De la technologie,
16:59
du support,
17:00
du socle qui permet de travailler.
17:02
Ou est-ce qu'on n'a pas un virage qui était déjà pris avec le digital,
17:06
mais qui s'accélère avec l'intelligence artificielle,
17:09
où les responsables informatiques,
17:11
les DSI,
17:12
doivent avoir ce rôle-là vraiment de directeur du système d'information.
17:19
En support des fonctions métiers,
17:21
en support de la stratégie de l'entreprise.
17:24
En collaboration des fonctions métiers.
17:26
Exactement,
17:27
le côté collaboratif est de plus en plus prégnant dans le métier de responsable informatique.
17:33
Exactement.
17:34
Petit aparté dans notre podcast,
17:37
comme vous le savez,
17:39
on accompagne beaucoup les entreprises dans le déploiement de solutions technologiques et dans le service managé.
17:47
pour les accompagner au quotidien dans leur stratégie.
17:50
Et bien évidemment,
17:51
cette partie-là,
17:52
on ne le fait pas tous.
17:53
On le fait avec des hommes et des femmes qui vont avoir l'expertise technique pour accompagner les entreprises,
18:00
les DSI,
18:01
les dirigeants dans leur stratégie informatique et digitale.
18:04
Mais pas que,
18:05
on le fait avec des solutions technologiques qui nous aident au quotidien à réaliser ce travail.
18:12
Et donc aujourd'hui,
18:13
on est accompagnés dans notre podcast par un de nos...
18:16
partenaire technologique qui est WashGuard.
18:19
Donc,
18:19
merci à eux pour cet accompagnement au quotidien et pour la réalisation de ce podcast.
18:28
Maintenant qu'on a dit tout ça,
18:30
je crois qu'on a vraiment abordé les risques,
18:33
ce que c'était le ShadowIA,
18:35
on a abordé toute cette partie-là.
18:38
Qu'est-ce qu'on fait,
18:39
Thomas ?
18:40
On arrête ?
18:42
Parce qu'on arrête le podcast.
18:44
On arrête tout,
18:44
on coupe l'intelligence artificielle dans les entreprises.
18:46
On coupe Internet aussi.
18:47
Oui,
18:47
aussi,
18:47
tant qu'on y est.
18:49
Alors non,
18:49
Julie,
18:49
on n'arrête pas.
18:50
On n'arrête pas parce qu'aujourd'hui,
18:53
s'il y a bien un virage que les entreprises doivent prendre,
18:55
c'est le virage de l'intelligence artificielle.
18:58
De toute façon,
19:00
il faut être honnête,
19:02
c'est trop tard.
19:03
C'est trop tard.
19:04
Tous les utilisateurs des entreprises utilisent l'intelligence artificielle.
19:08
Le shadowy,
19:09
c'est important de le conscientiser,
19:10
mais il faut aussi accepter que...
19:12
c'est déjà très largement une pratique courante de l'ensemble des collaborateurs des entreprises.
19:18
Donc,
19:18
il y a déjà ce premier point.
19:19
Et peu importe,
19:20
on va dire,
19:21
la génération.
19:22
Bien entendu,
19:23
ça a commencé par les plus jeunes,
19:24
mais ça a ruisselé très rapidement sur toutes les fonctions et tous les collaborateurs des entreprises tentaient qu'ils aient accès à un moyen informatisé.
19:34
Ça,
19:34
c'est un premier point.
19:35
Le deuxième point,
19:36
c'est qu'il faut aussi être honnête vis-à-vis de l'IA.
19:39
L'IA a permis aux collaborateurs d'être...
19:41
plus productif,
19:43
d'être plus inventif et du coup d'être dans une capacité d'innovation permanente,
19:49
ce qui est bien nécessaire pour nos entreprises.
19:52
C'est quelque chose de fondamental aujourd'hui de garder de la compétitivité,
19:57
de garder une capacité à innover dans un...
20:00
Un environnement plutôt...
20:03
Instable.
20:03
Exactement.
20:04
Où on ne sait pas aujourd'hui de quoi est fait l'avenir,
20:07
on ne sait pas de quoi est fait l'avenir économique de nos entreprises,
20:10
géopolitique du monde.
20:13
Donc on doit s'obliger à innover,
20:16
à explorer,
20:17
à débroussailler.
20:18
L'intelligence artificielle nous permet d'aller sur ces terrains-là.
20:23
Donc se dire qu'on va couper l'intelligence artificielle ou la maîtriser à outrance,
20:29
ne va pas avoir des effets positifs pour nos entreprises.
20:32
Et à côté de ça,
20:34
nos concurrents,
20:35
nos confrères,
20:36
s'approprient déjà très rapidement aussi ces usages,
20:39
et donc ça créerait un décalage concurrentiel pour les entreprises qui décideraient de tout couper.
20:46
Et troisièmement,
20:48
en parlant de cybersécurité,
20:50
les pirates aujourd'hui se sont très largement appropriés l'intelligence artificielle pour...
20:56
fabriquer des campagnes de phishing qui sont de plus en plus réalistes,
20:59
pour fabriquer des moteurs de scan de vulnérabilité,
21:03
pour paralléliser plusieurs tâches de piratage et pour gagner en efficacité et en vitesse.
21:09
Donc cet usage,
21:10
il est là qu'on le veuille ou qu'on ne le veuille pas.
21:12
Donc en tant que dirigeant d'entreprise ou de responsable des fonctions IT de l'entreprise,
21:20
on se doit de conscientiser et d'accompagner ces usages-là au sein des entreprises.
21:25
ne serait-ce que pour lutter contre ce qui vient de l'extérieur en matière de vulnérabilité pilotée par l'intelligence artificielle.
21:33
Donc,
21:33
s'il y a bien un message,
21:34
c'est qu'il faut y aller.
21:36
On ne peut pas bloquer,
21:37
on ne peut pas tout couper.
21:38
Ça n'aurait pas de sens aujourd'hui.
21:40
Aujourd'hui,
21:41
tu viens de le dire,
21:42
la question,
21:42
ce n'est pas est-ce qu'on doit aller dans l'intelligence artificielle ?
21:46
La question,
21:46
ce n'est pas est-ce qu'on doit bloquer l'intelligence artificielle dans notre entreprise ?
21:50
Non,
21:50
je pense que la bonne question,
21:52
c'est comment on y va ?
21:54
Par quels moyens ?
21:55
on y va.
21:56
Comment on y va avec nos collaborateurs en lien avec notre stratégie et notre développement d'entreprise.
22:01
Donc la question que je vais te poser aujourd'hui,
22:04
si tu étais un dirigeant d'entreprise ou si tu étais un responsable informatique ou quelqu'un qui avait la responsabilité de l'informatique au sein de son entreprise ou de son organisation,
22:14
c'est quelles sont les trois priorités à mettre en place.
22:17
Allez,
22:17
je vais te donner un défi dans les 90 jours.
22:21
Ok,
22:22
défi accepté.
22:24
Trois priorités.
22:26
Déjà la première priorité c'est accepter.
22:29
Pour moi,
22:30
il faut absolument qu'on accepte que les directions des systèmes d'information,
22:34
que les fonctions administratives et financières et a fortiori que les directeurs généraux des entreprises acceptent que l'intelligence artificielle est déjà dans leur entreprise aujourd'hui.
22:46
Et ça,
22:46
ça va quand même déjà changer un regard sur la question.
22:49
Parce que de ce fait...
22:51
La question ne peut plus se poser de savoir est-ce qu'on va couper ou est-ce qu'on va pas couper.
22:55
Trop tard,
22:58
c'est déjà dans l'entreprise aujourd'hui.
22:59
Et même si on se disait qu'on va couper ou qu'on va réguler de manière très ferme l'usage de l'intelligence artificielle,
23:05
la conséquence ça serait que ce Shadow IA irait plus profondément encore se cacher vis-à-vis des utilisateurs qui utiliseraient à ce moment-là ChatGPT sur leur smartphone personnel au lieu de l'utiliser sur leur outil de travail.
23:21
D'ailleurs,
23:22
il y a quand même un point qui est historique,
23:23
Julie.
23:24
Je pense que c'est quand même la première fois que des utilisateurs sont prêts à payer de leur poche l'utilisation d'outils pour leur travail professionnel.
23:37
Il existe moult utilisateurs qui payent leur abonnement ChatGPT ou Gemini,
23:41
Copilot ou Français
23:42
Mistral ou Cloud,
23:44
par exemple,
23:45
dans les entreprises parce que ça leur sert au quotidien.
23:48
Donc...
23:50
La première priorité pour moi,
23:51
c'est d'accepter,
23:52
se dire ok,
23:53
l'intelligence artificielle est déjà dans mon entreprise aujourd'hui et c'est une bonne chose.
23:59
Oui,
23:59
c'est ça.
23:59
C'est vraiment de se dire,
24:01
c'est une superbe opportunité.
24:03
Mes utilisateurs,
24:04
ils l'utilisent,
24:05
donc ça va aussi me challenger moi en tant qu'entrepreneur.
24:08
Et ça me responsabilise,
24:10
parce que maintenant qu'on a fait ce constat,
24:12
je dois les accompagner,
24:13
je dois les aider.
24:15
Et ça pour moi,
24:15
c'est la deuxième priorité,
24:18
c'est...
24:19
d'inventorier,
24:20
de gagner en conscience de ce qu'on a aujourd'hui dans notre entreprise.
24:24
Donc d'aller solliciter mes collaborateurs,
24:28
interviewer mes collaborateurs sans jugement,
24:31
parce que ça c'est fondamental,
24:32
pour savoir comment est-ce que l'intelligence artificielle aujourd'hui les aide dans leurs fonctions.
24:38
Parce que le risque ça serait de se dire,
24:40
ok,
24:40
je veux aller dans l'intelligence artificielle,
24:42
je vais mettre à disposition de mes collaborateurs un outil.
24:48
Mais qui n'est pas le bon.
24:49
Mes fonctions marketing utilisent de l'intelligence artificielle pour créer du contenu graphique.
24:55
Et moi,
24:56
je viens leur proposer un chat GPT qui va leur permettre de rédiger des articles.
25:00
Je ne suis pas en corrélation avec leurs usages,
25:03
donc ça ne va pas fonctionner.
25:05
Donc cet inventaire est aujourd'hui absolument nécessaire.
25:09
Et si on a 90 jours devant nous,
25:12
je pense qu'ils peuvent être utilisés en bonne partie pour bien conscientiser quel est le besoin de mes équipes en matière d'intelligence artificielle pour que ma stratégie de délivrerie soit en accord avec leurs besoins et que du coup elles nous permettent,
25:26
elles leur permettent de s'approprier ces usages
25:30
en conscience avec la stratégie d'entreprise et ne pas aller renforcer encore cette notion de shadow IA.
25:37
De se cacher quoi.
25:38
Exactement.
25:39
Leur dire ok on sait,
25:41
c'est bien,
25:42
maintenant on veut l'inventorier pour encore plus vous aider potentiellement.
25:47
Exactement.
25:48
Donc la première priorité c'est d'accepter.
25:51
La deuxième priorité c'est d'inventorier et donc la troisième priorité dans les 90 jours c'est le délivrer.
25:59
il va falloir
26:00
sur la base de ces deux premiers éléments,
26:04
délivrer à nos utilisateurs des outils d'intelligence artificielle simples,
26:09
parce qu'on ne va pas révolutionner l'entreprise en 90 jours.
26:13
On a vu plein de slides dans des présentations qui nous disent que 85%
26:18
des projets d'intelligence artificielle en entreprise échouent.
26:22
Pourquoi ?
26:23
Parce qu'on a voulu aller trop vite,
26:26
trop loin et trop fort en se disant on va...
26:29
transformer l'entreprise par l'utilisation de l'intelligence artificielle.
26:33
Alors que moi,
26:34
je pense qu'il faut plutôt y aller petit à petit avec des petits pas,
26:38
la stratégie des petits pas où on va délivrer à nos utilisateurs un accès entreprise à ChatGPT par exemple avec un tenant d'entreprise dans lequel on va pouvoir dire
26:49
ChatGPT, tu ne t'entraîneras pas avec les données de mon entreprise.
26:54
Les données que je vais uploader ne vont pas sortir de mon tenant.
26:57
professionnel et l'authentification va être basée sur l'Active Directory de notre entreprise par exemple,
27:04
ce fameux
27:05
SSO, Single Sign-On.
27:06
Et ça,
27:07
ça va déjà être la mise en place d'un outil performant pour mes utilisateurs qu'ils vont pouvoir s'approprier simplement parce qu'ils en connaissent déjà le fonctionnement et donc quelque chose qui va rapidement être successful à partir du moment où l'outil répond aux
27:23
besoins que l'on a inventoriés plus tôt.
27:26
Mais...
27:26
La stratégie des petits pas,
27:28
des petites choses,
27:29
pour moi,
27:30
est fondamentale pour qu'on aille tous en conscience vers l'intelligence artificielle qui est utile à l'entreprise.
27:37
Très bien.
27:38
Moi,
27:38
aujourd'hui,
27:39
je suis une entreprise,
27:41
je suis extrêmement sensible à mes données,
27:45
je suis extrêmement sensible à la souveraineté.
27:47
Ce sont des choses qui,
27:49
pour moi,
27:50
sont importantes dans le cadre de ma stratégie d'entreprise.
27:53
des valeurs de mon entreprise,
27:55
de mon ADN d'entreprise,
27:58
parce que j'ai des brevets,
27:59
mais pas que,
28:00
parce que ça fait vraiment partie intégrante de mon entreprise,
28:04
est-ce qu'il existe des solutions pour éviter potentiellement d'aller sur des IA grand public ?
28:11
Même si je sais qu'elles sont très bien,
28:13
mais est-ce qu'il y a des choses qui existent ?
28:15
Parce qu'aujourd'hui,
28:16
pour moi,
28:16
c'est important en tant que dirigeant.
28:18
Bien sûr,
28:18
Julie.
28:19
C'est ce qu'on évoquait tout à l'heure,
28:20
cette...
28:21
de particularité de chacune de nos entreprises,
28:23
l'ADN de l'entreprise,
28:25
le savoir-faire industriel et professionnel de l'entreprise,
28:28
qui est une valeur qu'il faut protéger,
28:32
tout en ne se privant pas du bénéfice de l'intelligence artificielle.
28:37
Dans ce cas,
28:38
aujourd'hui,
28:39
il est bien sûr possible d'aller créer des intelligences artificielles au sein même de nos entreprises,
28:44
au sein même de nos infrastructures IT,
28:48
qu'elles soient on-prem.
28:49
ou dans notre propre cloud.
28:51
On parle beaucoup de souveraineté et il est tout à fait possible d'aller faire tourner des modèles de langage qui vont d'ailleurs être plus performants qu'une intelligence artificielle grand public parce qu'elle va pouvoir,
29:04
tout en restant cloisonnée au sein de notre entreprise,
29:07
apprendre de notre fonctionnement,
29:10
apprendre de nos collaborateurs,
29:12
apprendre de notre savoir-faire métier sur la base des données que l'on a déjà et
29:17
être un atout de compétitivité parce que ça va nous permettre d'utiliser l'IA au sein de nos entreprises sans ce risque de fuite de données ou de fuite de savoir-faire ou de lissage de la communication,
29:33
comme on a pu le dire tout à l'heure.
29:34
Donc oui,
29:35
sur nos infrastructures on-prem ou cloud,
29:38
aujourd'hui,
29:39
il est tout à fait possible d'aller déployer plusieurs modèles de langage,
29:44
d'ailleurs.
29:45
qui vont nous permettre de manipuler de la donnée,
29:47
de créer du contenu,
29:49
de créer de l'innovation,
29:51
de réfléchir en matière de R&D par exemple.
29:55
Tu as parlé de trois priorités dans les 90 jours,
29:57
je te remercie d'avoir accepté le challenge.
30:00
Tu as parlé d'accepter.
30:02
Oui,
30:02
fondamental.
30:03
Tu as parlé de...
30:05
D'inventorier.
30:06
D'inventorier.
30:06
De conscientiser l'usage aujourd'hui.
30:09
Où a-t-on besoin d'intelligence artificielle pour nos collaborateurs au sein de nos entreprises ?
30:15
Et tu as parlé de déployer les bons outils pour les bons usages.
30:20
Exactement.
30:21
Je rajouterais peut-être une quatrième priorité.
30:24
Tu es gourmande.
30:25
Oui,
30:26
c'est ça.
30:27
C'est de communiquer.
30:29
De communiquer peut-être aux collaborateurs la manière dont on a envie d'utiliser l'intelligence artificielle pour garder notre ADN,
30:39
pour garder notre innovation,
30:40
pour garder notre savoir-faire industriel,
30:44
notre savoir-faire commercial,
30:45
notre savoir-faire d'organisation,
30:48
qui on est concrètement,
30:50
parce que c'est encore ça qui fait la différence.
30:53
Et je pense que de communiquer ces éléments-là,
30:57
Au collaborateur,
30:58
si tu en es d'accord et si tu juges que c'est important,
31:02
ça me paraît être aujourd'hui essentiel.
31:05
Parce que je pense que ce qui fait encore le sel des entreprises et ce qui va encore faire le sel des entreprises,
31:12
c'est l'humain.
31:13
La technologie,
31:14
oui.
31:14
L'intelligence artificielle,
31:16
oui.
31:16
Et c'est indispensable de prendre ses tournants.
31:19
Et moi,
31:19
j'adore toute cette partie-là et c'est passionnant.
31:23
Mais ce qui fait encore la différence entre certaines entreprises,
31:26
c'est l'humain et le fait de travailler ensemble,
31:27
et le fait d'aller voir nos clients,
31:30
et tous ces éléments-là.
31:32
Donc de communiquer sur comment on a envie d'utiliser l'intelligence artificielle.
31:36
Pourquoi ?
31:36
Pour quelles raisons ?
31:38
Exactement,
31:38
et ça montre aussi à quel point c'est important d'accepter cette première priorité,
31:42
et vraiment le point de départ de l'appropriation des outils d'intelligence,
31:46
de l'usage de l'intelligence artificielle au sein de nos entreprises.
31:50
Et à partir du moment où on est d'accord sur cette première priorité,
31:53
la dernière que tu viens d'évoquer coule presque de source,
31:57
où on va sensibiliser,
31:58
accompagner,
31:59
former nos utilisateurs à l'usage de l'intelligence artificielle sur une route commune qui va nous permettre de conserver nos impératifs d'innovation,
32:09
de productivité,
32:10
de positionnement concurrentiel,
32:13
en s'appropriant néanmoins ces nouveaux usages qui nous permettent l'ouverture des champs des possibles,
32:19
ce qui est incroyable.
32:20
Garder le socle de l'entreprise tout en innovant.
32:23
Exactement.
32:24
Superbe.
32:25
Dernière question,
32:27
et non pas des moindres,
32:28
parce que c'est une question qui revient régulièrement quand on va échanger avec des responsables informatiques,
32:33
des dirigeants d'entreprise.
32:35
Est-ce qu'il existe aujourd'hui des moyens de rendre visible l'invisible du shadow IA,
32:43
de l'utilisation de l'intelligence artificielle que je n'aurais pas forcément vue dans mon entreprise ?
32:48
Vu que tu nous as dit qu'il fallait...
32:49
inventorié,
32:50
c'est ta deuxième priorité dans les 90 jours.
32:54
Comment on fait et quels sont les moyens aujourd'hui qui sont à notre disposition pour voir ce qui se passe ?
32:59
Pas encore une fois pour tout interdire ou pour juger,
33:03
mais vraiment pour se dire c'est quoi l'état de l'art ?
33:07
C'est une bonne question,
33:08
Julie,
33:08
et je te remercie de me l'avoir posée parce que c'est un point qui est important et qui,
33:11
effectivement,
33:12
revient souvent dans les questions qu'on nous pose.
33:14
C'est comment est-ce que je peux avoir conscience autrement qu'en interviewant ?
33:19
de quel est aujourd'hui l'état d'utilisation de l'intelligence artificielle dans mon entreprise.
33:23
Et ce qui est un peu paradoxal,
33:24
c'est qu'il existe déjà des moyens qu'on a quasiment tous dans nos entreprises,
33:28
mais qu'on n'utilise pas forcément à cet échéant-là.
33:31
Et c'est,
33:32
alors je suis désolé Julie,
33:33
je vais être un peu dans la technique,
33:35
mais c'est l'utilisation de nos firewalls.
33:38
Aujourd'hui,
33:38
toutes les entreprises ont des firewalls,
33:40
souvent des firewalls évolués,
33:43
que l'on appelle UTM ou Next Generation.
33:47
qui sont positionnés sur le niveau 7 du modèle OSI,
33:50
donc des firewalls qu'on qualifie de firewalls applicatifs,
33:53
et qui peuvent voir les flux,
33:57
déchiffrer les flux,
33:58
lire les flux qui les traversent.
34:01
Donc il est tout à fait possible aujourd'hui d'utiliser notre firewall d'entreprise pour avoir de la lisibilité sur comment les utilisateurs se connectent à différents outils d'intelligence artificielle.
34:15
Quand tu dis voir les flux,
34:17
voir ce sur quoi les collaborateurs naviguent dans l'entreprise.
34:25
Exactement.
34:26
Exactement.
34:26
Et donc,
34:27
voir que oui,
34:28
il y a des connexions vers ChatGPT.
34:31
Il y a des connexions vers
34:33
Gemini,
34:35
Loveable ou
34:36
Canva ou peut-être des outils un peu moins identifiés comme tels,
34:42
mais qui sont tous...
34:44
catégorisées aujourd'hui dans les firewalls.
34:46
Tous les constructeurs de firewalls,
34:48
on a le plaisir de travailler avec WatchGuard,
34:50
en l'occurrence,
34:51
qui dispose aujourd'hui de ces fonctionnalités.
34:53
Donc,
34:54
je le disais,
34:54
tous les constructeurs de firewalls ont mis à jour leurs outils pour avoir une catégorie spécifique.
35:00
autour de l'intelligence artificielle.
35:02
Donc je suis responsable informatique,
35:04
je veux inventorier,
35:05
bien évidemment je veux aussi interviewer sur les usages,
35:08
ça c'est indispensable.
35:09
Ça reste fondamental.
35:10
Mon rôle c'est vraiment d'être un support pour les fonctions métiers,
35:15
pour la stratégie de mon entreprise,
35:16
mais j'ai aussi des moyens techniques pour aller voir,
35:20
avec cette catégorie IA qu'on peut retrouver dans les outils de firewalling.
35:25
et d'avoir un peu en inventaire de ce qui est utilisé par mes collaborateurs.
35:30
Et ça peut être aussi un moyen d'aller les interviewer en disant
35:34
« J'ai vu que tu utilisais potentiellement cet outil,
35:38
super,
35:38
est-ce que tu peux me dire un peu ce qu'il fait ?
35:40
Moi ça m'intéresse,
35:41
peut-être qu'il pourrait être utilisé par d'autres services de l'entreprise,
35:45
peut-être qu'on pourrait optimiser l'usage de cet outil-là,
35:47
créer des formations,
35:49
être vraiment dans l'accompagnement et le soutien. »
35:52
Le moyen technologique proposé par le Firewall va nous permettre d'avoir une vue d'ensemble des usages et l'interview,
35:59
l'échange,
36:00
la communication avec les collaborateurs va nous permettre de comprendre l'usage et de le développer en conscience dans l'entreprise.
36:08
Est-ce qu'il y a d'autres outils que potentiellement le
36:11
Firewalling ? Oui,
36:12
alors il existe d'autres outils technologiques que sont des plateformes d'analyse.
36:21
des usages de l'intelligence artificielle par le scan sur les différents outils de l'existence ou non de comptes liés à des adresses mail d'entreprise.
36:32
Parce que quand on parle de Shadow IA,
36:34
si un collaborateur utilise une intelligence artificielle générative grand public,
36:39
il va s'inscrire avec son adresse mail d'entreprise.
36:43
Et il existe aujourd'hui plusieurs plateformes qui se font le devoir d'inventorier ce sujet-là auprès de la...
36:50
plupart des grandes plateformes d'intelligence artificielle et qui vont nous permettre de voir s'il existe des comptes rattachés à notre domaine d'entreprise,
36:59
ce qui nous permet de compléter la visibilité qui est faite par le firewall dans un premier temps.
37:05
Très bien.
37:06
Thomas,
37:07
merci beaucoup pour cette vision de l'invisible,
37:12
du shadow
37:13
IA qui peut se passer dans les entreprises.
37:16
Je crois que prochainement,
37:18
on pourra aussi faire une spéciale IA souveraine.
37:24
Je pense que ça peut être intéressant,
37:25
vu qu'on a beaucoup de questions aujourd'hui des entreprises sur ce sujet-là.
37:30
C'est un sujet qui les retient particulièrement à cœur,
37:32
et ce que je peux comprendre.
37:34
Et donc,
37:35
moi,
37:35
il ne me reste plus qu'à te saluer.
37:37
Donc,
37:38
merci
37:39
Thomas, merci de ton temps,
37:40
merci de ton analyse et de ton expertise.
37:43
Et nous,
37:43
on se dit à bientôt.
37:46
pour un nouvel épisode de l'Humain à cœur du digital.
37:50
Salut,
37:50
ciao !
37:52
Vous avez apprécié ce moment ?
37:54
Alors laissez-nous un commentaire,
37:55
un avis ou partagez cet épisode autour de vous.
37:58
Et nous,
37:59
on se dit à très bientôt pour un nouvel épisode de l'Humain à cœur du digital.