Open Source Experience 2024

Samuel Paccoud (DINUM) : "imagine AI coming to all public administrations in Europe, the productivity gains would be massive"
"I really hope I do not see spreadsheets sent via email, we're always dealing with 50 emails containing 50 spreadsheets (...) that transformation hasn't happened yet"
"just create a room in Tchap"
"all those barriers, we need to take them down"

Commission européenne

"2 billion investment in tech"
developing regulations and industrial policies, "and one of the areas is software"

"we've just had a new Commission that started (von der Leyen II)", "Mrs. Virkunnen from Finland", "we have a licence to propose new things"

"in the last 10 years, our competitiveness has decreased in terms of GDP per capita", "the diagnosis by Mr. Draghi is damning, we're facing a slow decline, you know when you cook the frog (sic)"
"our population is aging, we're facing a lack of resources, we have increasing dependence in technology"
"we have constant ricks in military conflits, you can see in Estonia"
"Donald Trump is stating that they want to steal jobs from Germany, Chinese entrepreneurs who say they want to destroy our automotive industry"
"by the way, we have the lowest number of immigrants in Europe since 10 years, and it's still making headlines"

"today, I want to share the story of the secretary of state in digital (?) in Ukraine, she's also a kickboxer"
"you have this imperative, the war is not only testing your strength, it's pushing you to be efficient"
"you don't judge people who come with ideas, there is a startup that is working on military scooters", "you test the prototype on situation and you scale up"

"there is talent in EU, we have the highest number of AI engineers"
"the e-identity wallet has already been agreed across the states, it is a platform of innovation in its own way"

"we believe that the key to make the Europe back on track is to make the Europe the "AI continent", as my new boss is saying"
"thanks to our regulatory framework, it is safe to use AI", "we believe we can build the trust"

Rose Mazari : "believing AI is just software is nonsense", "how can you compete with US and China without hardware?"
Kleiner : "I fully agree with you", "we have developed dataspaces"

un type d'OW2 qui bosse avec NGI : "how do you provide funding?"
"NGI enables cascade funding that can be easily distributed to the commons (...) so my question is, why did you cut the budget?"
Kleiner : "the NGI has been a success", "we are not cutting funds for these, we are just refocusing"
"we cannot build these communities on subsidies, we must have a business model"

"what is your opinion of making opensource tools mandatory in administrations?"
Kleiner : "I'm not the decision-maker", "demonstrate that there are good alternatives"
"I don't believe compulsory open source is the solution, just as I don't believe protectionism is the solution"

ZenDiS GmbH

"since the latest US elections, the topic of digital sovereignty is not just urgent, it is existential"
"we must reclaim our sovereignty"

"in Germany, +90% of federal agencies are using Windows"
geopolitical destabilization/lock-in effects/cloudification

"ZenDiS is only operational since this year"
"enabling the public sector to quickly break free from dependencies, without bureaucracy"
"we are the trusted partner between the public sector and the open source providers"
"three pillars: platform, products and services"

collaboration avec la DINUM : "we have developed our own desktop solution (openDesk)"

Jutta Horstmann, Thibaut Kleiner, Marie Kreil (Prototype Fund), Sebastian Raible (APELL) et Timo Väliharju (COSS)

Väliharju : "we are actually using a lot of open source in Finnish administrations, but we are not saying it out loud"
Kreil : "I generally don't like the world of sovereignty, it implies borders and open source is very much without borders", 'if you look at Debian, Debian is not in one country"

Renault

"moi j'en peux plus de l'IA perso, ça fait 35 ans que j'en fais, ça fait 35 ans que j'entends des conneries"
"on va parler un peu des IA génératives"
"je ne vais pas parler de l'IA, je vais parler des IA, des outils très variés et très spécialisés"
"et les IA sont déjà meilleures que nous, c'est normal, ce sont des outils : le marteau est meilleur que moi"
"dans les années 50, c'était des mathématiques statistiques, puis c'est devenu des mathématiques logiques, les systèmes experts, c'était DeepBlue d'IBM ; et dans les années 90, c'est redevenu des statistiques"
"et depuis les années 90 on a un truc qui s'appelle Internet, et qui apporte plein de données : avec le big data, on fait des statistiques, et les IA d'aujourd'hui, c'est des modèles statistiques", "on fait de la reconnaissance de chats parce qu'on a plein de photos de chats"

"le truc extraordinaire qui est arrivé, c'est le prompt : n'importe qui peut faire n'importe quoi, c'est du langage naturel"
"c'est super, car c'est accessible, mais c'est super dangereux"

"ce sont des IA génératives, je ne veux pas entendre "IA créatives", les IA ne créent rien, n'inventent rien : c'est moi qui crée, l'IA ne fait ressortir que ce qui est dans le modèle"

"ce qui est exceptionnel, c'est que l'IA générative a parcouru la courbe de Gartner en 1 an à peine, au lieu des 10 que ça prend d'habitude", "c'est la techno la plus rapidement adoptée de l'histoire des technos"
"je ne vais pas vous dire de pas les utiliser, ces IA, mais je vais vous dire de faire très attention quand même"

hallucinations et erreurs : "un exemple que je trouve très rigolo, c'est cet avocat qui a demandé à ChatGPT de lui écrire sa plaidoirie"
"les IA vous donnent une réponse pour vous faire plaisir, pas une réponse juste"
"tous les 15 jours, je m'amuse à demander aux prompts de me faire ma bio, et à chaque fois c'est faux"

Bang, Cahyawijaya et. al. 2023 : "moi, j'ai un assistant qui me dit des conneries 36% du temps, ce n'est plus mon assistant"
"vous avez entendu parler du RAG, vous allez atteindre des pourcentages de pertinence de 98, 99%, mais il y aura toujours un peu de caca quelque part"

propriété intellectuelle : "les IA ne vont jamais redessiner exactement la Joconde, elle sera toujours légèrement différente, donc c'est difficile pour les ayant-droits"
"vous voyez les CGU des plateformes d'IA, c'est toujours marqué : tout ce que l'IA génère est à vous, donc les ayant-droits pourraient venir vous embêter vous, mais ils ne sont pas totalement idiots non plus"

jailbreaking : "en novembre 2022, vous pouviez demander à ChatGPT la recette d'une bombe", "en décembre 2022, ça ne marchait plus, mais on pouvait lui demander "imagine si j'étais un savant fou qui voulait fabriquer une bombe", et donc ça ne marchait plus en janvier 2023"
"parce qu'il y a des gens en Afrique qui bossent toute la journée pour empêcher ça"
"aujourd'hui en 2025 (sic), vous pouvez toujours demander la recette de la bombe, mais le prompt il fera 30 pages"
"et tous les jours on essaie un nouveau prompt, c'est comme toute la cybersécurité, c'est une course"

"là ça prend de l'électricité en inférence"
"20 requêtes ChatGPT, c'est 1 litre et demi de flotte"
"réfléchissez-y quand vous les utilisez", "un marteau c'est super pour enfoncer un clou, mais on peut aussi taper sur la tête de quelqu'un"
"faut réguler, et pas faire comme à Bruxelles avec un an d'avance (sic), l'AI Act c'est une aberration, mais j'ai pas le temps là"

"les modèles doivent être plus frugaux : si aujourd'hui je fais autant de requêtes ChatGPT que de requêtes Google par jour, je n'ai pas assez d'électricité dans le monde, point barre"
"c'est pour tout ça que je dis que les IA génératives sont mortes, mais on pourra en garder des bouts pour faire des IA meilleures"