Centre pour la Sécurité de l'IA
Une association qui travaille à promouvoir et faire de la recherche sur la sécurité de l’IA, former de futurs spécialistes, et prévenir les risques issus d’IAs imminentes dont les capacités dépassent celles des humains.
Dernière mise à jour : 5 mars 2025
Les dangers posés par l'IA
Le rapport international sur la sécurité de l’IA de 2025 identifie de nombreux risques liés à l’IA [1]. On peut y compter :
- L’aide à synthétiser des molécules toxiques et créer des pathogènes
- L’interférence par les IA avec les résultats de leur propre évaluation
- La réplication autonome et l’apparition de biais et de valeurs négatives
Les plus grands experts de l’IA, comme Geoffrey Hinton et Yoshua Bengio, dénoncent la présence d’un risque majeur en absence de mesures strictes de sécurité. [2]
Comment le CeSIA prévient les dangers
L’argent du CeSIA finance trois types de mission:
- La formation de futurs spécialistes en sécurité, par le biais de cours universitaires accrédités, de bootcamps et d’ateliers
- La recherche technique en sécurité et en gouvernance de l’IA
- La sensibilisation des acteurs majeurs en France et du grand public
Le Centre pour la Sécurité de l’IA est une organisation française de recherche à but non lucratif qui sensibilise sur les risques issus des systèmes d’IA et défend une régulation techniquement informée. Leur mission vise à réduire les risques présents et futurs, qu’ils soient systémiques, qu’ils relèvent du mésusage, où qu’ils découlent du fonctionnement des IAs génératives, actuellement opaque. Le CeSIA bénéficie de la réduction fiscale depuis la France.
L'impact du CeSIA
"L'accélération des développements en IA générative, alimentée par une course à la concurrence et des investissements multipliés par huit en un an pour atteindre 25 milliards de dollars en 2023, nous force à porter notre regard vers les ruptures technologiques des mois et années à venir. [...] Notre mission : apporter un éclairage technique sur les tendances de développement de l'IA, identifier les risques et enjeux actuels, et anticiper ceux à venir."
Quelles sont les réalisations du CeSIA ?
- Depuis 2022 : ML4Good
Le CeSIA a organisé 11 itérations du bootcamp ML4Good et 6 itérations des Séminaires Turing en sécurité de l’IA, formant plus de 500 personnes au total. - 2024, BELLS
Le CeSIA a créé BELLS, un benchmark visant à évaluer des systèmes de supervision des grands modèles de langage. - 2024, Communication grand public
En 2024, le CeSIA a sensibilisé environ un million de français et plusieurs institutions gouvernementales. - 2025, GRASP
Le CeSIA est un contributeur majeur de la base de données Global Risk AI Safety and Preparedness, qui liste de manière exhaustive tous les risques connus et les agendas de recherche existant pour y répondre, facilitant le travail en régulation et en recherche.
- 2025, Code of Practice
Le CeSIA a participé aux recommandations sur les Codes of Practice, qui guide la mise en œuvre du EU AI Act, la régulation européenne sur l’IA.
En moyenne, 200 euros donnés au CeSIA sensibilisent 720 personnes [3].
Réduction fiscale : Maximisez l'impact de votre générosité
En France, la réduction fiscale est actuellement disponible pour les dons à quatre de nos associations recommandées : Against Malaria Foundation, Good Food Institute, Helen Keller International, et le Centre pour la Sécurité de l’IA
Si vous êtes imposable en France, vous bénéficiez d’une réduction d’impôt de 66 % du montant de votre don dans la limite de l’impôt dû ou de 20% de votre revenu imposable.
En pratique, cela signifie que si vous envisagiez de donner 100 €, vous pouvez tripler ce montant pour atteindre un don de 300 € que vous déclarerez, avec un coût réel de seulement 102 € après réduction fiscale. Cela vous permet de multiplier l’impact de votre don sans augmenter votre dépense prévue.
Vous pouvez consulter notre article complet sur la réduction fiscale.
Nous sommes en mesure d’offrir la déductibilité fiscale pour cette association et toutes les organisations que nous recommandons par l’intermédiaire de nos partenaires, Effektiv Spenden. Si votre résidence fiscale est en Suisse, veuillez effectuer vos dons par le biais de ce lien, afin de recevoir votre reçu fiscal à la fin de l’année fiscale.
Nous travaillons avec des partenaires dans le monde entier et pouvons offrir une déductibilité fiscale dans de nombreux pays. Veuillez nous contacter si vous souhaitez faire un don à partir d’un autre pays et nous discuterons des possibilités fiscales vous permettant de donner avantageusement. Si souhaitez donner et que vous n’avez pas besoin d’un reçu fiscal, vous pouvez faire un don via Mieux Donner indépendamment de votre pays !
FAQ
Quels sont les risques liés à l'IA ?
Le rapport international sur la sûreté de l’IA avancée [1] distingue trois grandes catégories de risques :
- Les risques d’usage malveillant : ce sont les préjudices résultant d’une utilisation intentionnelle de l’IA pour nuire. Cette catégorie inclut des dangers avérés comme la désinformation de masse ainsi que de potentiels risques catastrophiques, tels que le développement facilité d’armes biologiques.
- Les dysfonctionnements : ces risques concernent les dangers résultant d’un écart entre le fonctionnement attendu d’un système d’IA et son comportement réel. Ils incluent en particulier le risque de perte de contrôle de futurs systèmes d’IA avancés.
- Les risques systémiques rassemblent quant à eux diverses menaces engendrées par l’IA pour la société et l’environnement. Ils incluent la destruction non-préparée d’emplois, l’aggravation des inégalités et la consommation excessive de ressources.
Ces risques sont-il spéculatifs ?
Dans le cas de l’IA, de nombreuses études documentent des comportements dangereux, inattendus ou manipulateurs émergents de systèmes d’IA à l’insu de leurs concepteurs. Le rapport international sur la sécurité de l’IA montre qu’encadrer cette technologie est indispensable si nous souhaitons nous préserver de ses risques.
Par ailleurs, la démarche scientifique ne se limite pas à observer directement des phénomènes déjà survenus. Elle s’appuie également sur la compréhension théorique et sur la modélisation prédictive. Dans de nombreux domaines scientifiques, de l’astrophysique à la climatologie, les spécialistes acceptent des modèles robustes concernant des événements qui n’ont jamais pu être observés directement.
Les preuves scientifiques des risques liés à l’IA avancée s’articulent autour de trois piliers:
- Preuves empiriques et incidents précurseurs : De nombreuses études documentent des comportements dangereux, inattendus ou manipulateurs émergents de systèmes d’IA à l’insu de leurs concepteurs.
- Cadres théoriques validés : Des modèles informatiques et mathématiques formels démontrent la plausibilité de risques majeurs, notamment liés à la capacité des IA à développer des objectifs émergents éloignés des intentions de leurs créateurs.
- Consensus d’experts : L’avis des scientifiques, lorsqu’il converge, constitue un indice important. Une large majorité de chercheurs s’affirment préoccupés par ces risques.
Comment le CeSIA prévoit de prévenir et atténuer les risques liés à l'IA ?
Pour le CeSIA, la prévention et l’atténuation des risques liés à l’IA doit s’appuyer sur :
- Une gouvernance internationale adaptée : D’après le CeSIA, le rythme de développement de la technologie les plus transformatrice de l’histoire humaine ne devrait pas être décidé par des entreprises en concurrence pour dominer le marché, ni par des pays en compétition géopolitique. Il est alors indispensable que les gouvernements coopèrent pour évaluer les risques, guider le développement et superviser le déploiement et les usages de cette technologie, à l’image de ce qui existe dans le domaine des risques atomiques.
- Un cadre réglementaire : Selon le CeSIA, la mise en place de cadres législatifs adaptés est indispensable pour encadrer le développement, le déploiement et l’usage des systèmes d’IA avancés. Le règlement européen sur l’IA (AI Act) constitue un pas dans cette direction.
- La recherche fondamentale : Même si l’IA était mise au bénéfice exclusif de l’intérêt général, aucun cadre théorique ni aucun protocole technique ne permet à ce jour d’assurer que les systèmes d’IA avancés resteront sous notre contrôle et poursuivront des objectifs alignés avec nos intérêts.
Nous recommandons les associations qui :
Mesurent leur impact.
Il est surprenant de constater que peu d’associations mesurent réellement leur impact. Les associations que nous recommandons utilisent des méthodes scientifiques pour évaluer les résultats de leurs actions, afin de s’assurer que leurs interventions produisent les effets escomptés.
Se concentrent sur leur impact final.
Beaucoup d’associations mettent en avant des indicateurs d’impact intermédiaires tels qu’un nombre de livres d’école distribués, un nombre de vaccinations effectuées, etc. Nous privilégions quant à nous les associations qui se concentrent sur leur impact final, c’est-à-dire l’amélioration des vies qu’elles permettent ou le nombre de vies qu’elles sauvent. Par exemple, un nombre de livres distribués ne dit pas à quel point les enfants bénéficiaires auront plus d’opportunités de choix de vie une fois adulte. De même, un nombre de vaccinations ne dit pas combien de personnes vont mourir malgré le vaccin et combien de personnes vaccinées auraient survécu de toutes façons.
Se concentrent sur leur impact contrefactuel
Lorsqu’on mesure l’impact d’une association, il faut toujours se demander ce qui se serait produit si l’association n’avait pas été là. Par exemple, imaginons qu’une association parvienne à vacciner 1000 personnes contre une maladie mortelle. Il est possible qu’en l’absence de l’association, une partie de ces personnes auraient eu l’occasion de se faire vacciner par un autre biais. Disons qu’on estime à 400 le nombre de personnes dans ce cas-là ; le nombre de vaccinations réellement imputables à l’association n’est alors que de 600. L’impact contrefactuel correspond donc au nombre de vies sauvées par 600 vaccinations et non 1000.
Sont extrêmement efficaces
Nous recommandons les associations qui sauvent ou améliorent le plus grand nombre de vies par euro donné (d’après les estimations d’impact actuelles). En pratique, ces associations s’avèrent remarquablement efficaces. Par exemple, dans le domaine de la santé mondiale, les associations recommandées sont estimées environ 100 fois plus efficaces qu’une association dans la moyenne. Dans le domaine du climat, les associations recommandées peuvent éviter une tonne d’émissions de CO2éq pour seulement 1 euro. Enfin, dans le domaine du bien-être des animaux, les associations recommandées peuvent sauver des milliers d’animaux de l’élevage industriel pour le même prix que la protection d’un animal de compagnie dans un refuge.
Sont évaluées de manière indépendante.
Toutes les associations que nous recommandons sont évaluées de manière indépendante par des évaluateurs d’associations reconnus mondialement pour leur sérieux. Pour plus d’informations, voir ci-dessous.
Nous ne recommandons PAS les associations sur la base de :
Leur popularité.
Le nombre de personnes donnant de l’argent à une association n’est pas un bon indicateur de leur impact.
La localisation de leur impact.
Nous considérons qu’une vie a toujours de la valeur, qu’elle soit basée en France ou dans les pays en développement.
Leur déductibilité fiscale
Les dons à certaines associations ouvrent droit à des réductions d’impôt importantes ; par exemple en France, une association d’intérêt général permet de déduire de ses impôts 66% de la valeur du don (dans la limite de 20% du revenu imposable). Dans certaines conditions, la réduction d’impôts peut même monter à 75%. A coût final équivalent, une personne qui privilégie les dons aux associations éligibles peut donc tripler voire quadrupler ses dons (et donc son impact). Néanmoins, les associations que nous recommandons sont particulièrement efficaces ; dans le domaine de la pauvreté, elles sont estimées environ 100 fois plus efficaces qu’une association dans la moyenne. Dans ces conditions, il est préférable de prioriser l’efficacité des associations à leur éligibilité à la réduction fiscale.
Cela étant dit, il s’avère que toutes les associations que nous recommandons sont déductibles des impôts en Suisse. En France, il y a également 4 associations que nous recommandons qui sont éligibles à la réduction de 66% : Helen Keller, Against Malaria Foundation, Good Food Institute et le Centre pour la Sécurité de l’IA. Les autres associations recommandées ne sont malheureusement pas éligibles à la réduction d’impôts en France (cela est lié au fait qu’elles n’opèrent pas depuis la France).
L’importance de leur frais généraux.
Les frais généraux d’une association désignent l’ensemble des frais nécessaires à leur fonctionnement (par opposition aux dépenses liées aux missions de l’association). Par exemple, le loyer du local de l’association, les paies du personnel et les dépenses de publicité font partie des frais généraux. Au contraire, dans l’exemple de l’association Against Malaria Foundation, les dépenses liées à l’achat, l’acheminement et la distribution des moustiquaires ne sont pas des frais généraux (puisqu’elles sont directement liées à la mission de l’association).
De nombreuses personnes pensent que les associations sont d’autant plus efficaces que leurs frais généraux sont faibles, et qu’il faudrait donc privilégier celles dont les pourcentages de frais généraux sont les plus bas. Cette idée est pourtant fausse, car ce qui fait en premier lieu l’efficacité d’une association est le domaine dans lequel elle choisit d’intervenir. Typiquement, une association qui se concentre sur une maladie quasiment toujours mortelle et ayant un traitement peu coûteux sera plus efficace qu’une association qui se focalise sur une maladie rarement mortelle ou pour laquelle les seuls traitements efficaces existants sont coûteux. Même si la première association a des frais généraux représentant 15% de ses dépenses contre seulement 7% pour la seconde association, on peut s’attendre à ce que la première association soit globalement plus efficace.
De plus, l’idée selon laquelle les associations caritatives devraient toujours chercher à minimiser leurs frais généraux est fausse également. En effet, pour améliorer l’efficacité globale de l’association, il peut être utile d’embaucher du personnel fortement qualifié. Or, le personnel fortement qualifié requière des salaires plus élevés, ce qui fait augmenter les frais généraux.
Plus généralement, la recherche suggère qu’il n’y a pas vraiment de corrélation (de lien, de rapport réciproque) entre les frais de fonctionnement et l’efficacité.
Pour toutes ces raisons, nous considérons que l’importance des frais généraux des associations n’est pas un critère à considérer pour déterminer les meilleures d’entre elles. Ainsi, parmi les associations que nous conseillons, certaines ont des frais généraux très bas (comme par exemple Against Malaria Foundation, dont les bilans financiers sont ici), et d’autres ont des frais généraux un peu plus importants (c’est le cas de cas de la Clean Air Task Force, dont le bilan financier 2022 est ici).
Nos recommandations sont basées sur les recherches d’experts indépendants
Il n’est pas facile de trouver les meilleures associations en termes d’impact. C’est pourquoi nous travaillons en étroite collaboration avec des experts qui mènent depuis de nombreuses années des recherches approfondies sur le sujet. Ces experts sont totalement indépendants et travaillent à la pointe de l’évaluation des associations dans leurs domaines respectifs. Ils effectuent des tests rigoureux sur des centaines d’associations afin de déterminer le plus précisément possible le degré d’efficacité de leurs programmes par euro dépensé. En comparant le rapport coût-efficacité d’un grand nombre d’associations, ils sont en mesure de dresser une liste restreinte des associations les plus efficaces pour que vos dons aient le plus grand impact possible.
Les évaluateurs sur lesquels nous nous appuyons tout particulièrement :
LA SANTÉ MONDIALE : GiveWell
GiveWell est le principal organisme de recherche au monde qui étudie les associations dans le domaine de la santé et du développement.
« Nous recherchons les associations qui sauvent ou améliorent le plus de vies par dollar. Notre objectif est de produire la meilleure recherche au monde sur les endroits où donner. Gratuitement, pour tout le monde. Nous recommandons un petit nombre d’organisations caritatives qui font beaucoup de bien » (GiveWell)
GiveWell a été fondé en 2007 par Holden Karnofsky et Elie Hassenfeld, deux anciens employés de fonds spéculatifs. Ils souhaitaient avoir le plus d’impact positif possible avec leurs dons et ont constaté qu’il existait peu d’informations solides sur la manière d’y parvenir. GiveWell investit plus de 40 000 heures de recherche chaque année et a collecté plus d’un milliard d’euros pour des organisations caritatives à fort impact, ce qui a permis de sauver environ 150 000 vies.
LE BIEN-ÊTRE DES ANIMAUX : EA Animal Welfare Funds
L’EA Animal Welfare Fund a été classé comme le meilleur évaluateur d’associations pour les animaux par le projet d’évaluation des évaluateurs de GWWC en 2024. Il s’agit donc du principal évaluateur d’associations auquel nous nous référons pour choisir nos meilleures associations pour animaux. Nous les rencontrons tous les deux mois pour obtenir des recommandations actualisées. Ils effectuent des recherches approfondies sur les différentes organisations de protection des animaux afin de trouver celles qui aident le plus d’animaux par dollar.
LE CHANGEMENT CLIMATIQUE : Giving Green
Giving Green est une association à but non lucratif qui consacre chaque année des milliers d’heures à l’examen d’études et d’association dans le domaine du climat afin de trouver les interventions les plus rentables pour lutter contre le changement climatique. À partir de ces recherches, elle publie chaque année ses meilleures recommandations. Son équipe est composée de climatologues, d’économistes et d’experts en évaluation d’impact qui ont des dizaines d’années d’expérience dans le domaine des politiques fondées sur des données probantes et de l’environnement. Nous rencontrons régulièrement Giving Green pour discuter de nos recommandations en matière de climat et nous organisons des ateliers sur le climat en collaboration avec eux.
Autres évaluateurs
Bien que nous nous en remettions principalement à GiveWell, Giving Green et EA Animal Welfare Fund, nous lisons également les recherches d’autres évaluateurs d’associations de premier plan, notamment LongView Philanthropy, Founders Pledge et Animal Charity Evaluators, afin de nous assurer que nous ne dépendons pas excessivement d’une seule source de recherche. Lorsque nous choisissons nos meilleures associations, nous préférons celles dont l’efficacité est corroborée par de multiples évaluateurs indépendants.
Nous traitons les dons gratuitement, ce qui signifie que nous ne gardons rien de votre don pour nous. Cependant, les modes de paiement par carte de crédit, PayPal et prélèvement SEPA entraînent des frais de la part des services de paiement avec lesquels nous travaillons. Ces frais sont déduits de votre don. Le montant est calculé comme suit pour les dons en France :
Transfert : Gratuit dans l’espace de paiement SEPA
Transfert via Donorbox : 2,55% + 0,25 €.
Carte de crédit : 2,95% + 0,25 € (pour les cartes européennes)
PayPal : 3,15% + €0,25
Pour les dons de plus de 1 000 euros, nous recommandons un virement bancaire gratuit. PayPal et les cartes de crédit ne sont pas recommandés pour les montants élevés en raison des frais.
Un don direct aux organisations concernées entraînerait également des frais, notamment si une conversion est nécessaire. Nous avons déjà négocié avec tous les prestataires de services de paiement et obtenu des conditions particulièrement favorables pour les organisations à but non lucratif. Nous avons des frais de conversion particulièrement avantageux par rapport aux banques traditionnelles.
Nous nous finançons également par des dons, mais de manière totalement indépendante.
Si vous souhaitez discuter de la meilleure façon de faire un don par notre intermédiaire, n’hésitez pas à nous contacter.
[1] International AI Safety Report, Bengio et al. 2025
Synthétiser des molécules toxiques : Dual use of artificial-intelligence-powered drug discovery, Urbina et al. 2022, in Nature Machine Intelligence
Aide à créer des pathogènes : Can large language models democratize access to dual-use biotechnology?, Soice et al. 2023, MIT
Brouiller le résultat de leurs propres évaluations : Apollo Research, Frontier models are capable of in-context scheming, Meinke et al. 2024, Paragraphe 3.4, Models sometimes scheme without any goal nudging, Anthropic, Alignment Faking in Large Language Model, Greenblat, Denison et al. 2024
Réplication autonome : Frontier AI systems have surpassed the self-replicating red line, Xudong Pan, et al. 2024, Université de Fudan
Apparition inattendue de biais et valeurs négatives : Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs, Mazeika et al. 2025, Center for AI Safety. Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs, Betley et al. 2025, Truthful AI