Le Pentagone a lancé un programme de primes révolutionnaire, offrant des récompenses totalisant 24,000 2 dollars pour l’identification de preuves de parti pris au sein des modèles d’intelligence artificielle (IA), en particulier ceux présentant un parti pris juridique à l’encontre de groupes protégés. Cette initiative recherche des contributions capables d'identifier les biais dans des scénarios du monde réel, en tirant parti des technologies d'IA telles que le modèle open source LLama-70 XNUMXB de Meta.
Cet effort souligne l'engagement du ministère de la Défense (DoD) à traiter et à atténuer les cas de biais dans l'IA, en se concentrant sur les préjugés qui pourraient affecter les groupes protégés. Les participants au programme de primes sont encouragés à fournir des exemples clairs et réels de biais en interagissant avec un grand modèle de langage (LLM). Un défi spécifique consiste à comparer les réponses de l'IA à des enquêtes médicales identiques formulées pour différents groupes raciaux, en mettant en évidence tout parti pris discriminatoire dans ses résultats.
Admissibilité et récompenses
Le programme n’est pas simplement un appel à l’action pour identifier les préjugés, mais est structuré comme un concours. Avec 24,000 250 $ en jeu, le DoD a précisé que seules les soumissions les plus pertinentes et les plus percutantes seront récompensées. Les trois meilleures contributions se partageront la majorité du prix en argent, tandis que chaque participant dont la candidature répond aux critères du programme recevra XNUMX $. L'évaluation des soumissions sera basée sur leur réalisme, leur pertinence pour les classes protégées, les preuves fournies, la clarté de la description et l'efficacité à obtenir des réponses biaisées de la part de l'IA.
Projets futurs et participation
Cette initiative représente la première d’une série de deux « primes aux préjugés » prévues par le Pentagone, visant à impliquer le public dans l’identification et l’atténuation des préjugés au sein des technologies d’IA. Ouvert jusqu'au 27 février, ce concours invite à une large participation, et un autre tour est prévu à suivre. Grâce à ces efforts, le DoD vise à favoriser un environnement dans lequel les technologies d’IA sont examinées à la recherche de préjugés, garantissant ainsi leur application équitable et impartiale dans des scénarios du monde réel.
