Hackathon GenAi

Hack GenAI, le hackathon dédié à l'évaluation de la robustesse des grands modèles de langage (LLMs) sur un week-end ! Cet événement, organisé par la Chaire IA et Sécurité portée par la Gendarmerie nationale et l’Isep et avec le concours d’EUROPOL et Magic Lemp, vous offre une occasion unique d'explorer les subtilités des LLMs et d'identifier les éventuelles faiblesses dans leur conception.

Passionnés d'IA, chercheurs et étudiants, rejoignez nous et plongez dans le monde des LLMs afin de contribuer à faire progresser le domaine de l'intelligence artificielle.

Dans le cadre de l'émergence de l'IA générative, la robustesse des modèles constitue un challenge dans le champ de la sécurité. En effet, chaque LLM peut potentiellement être attaqué et détourné à des fins malveillantes. Le hackathon vous propose d'appréhender ce sujet par deux approches différentes. La première consiste à affiner des modèles open-source pour les rendre le plus "non-censurés" possible en réalignant leurs poids. Pendant ce temps, vous effectuerez des attaques d'ingénierie de prompts pour trouver les meilleurs instructions pour générer des réponses normalement non fournies par les LLMs.

Vous travaillerez en équipe pour élaborer des stratégies innovantes d'attaque tout en respectant les directives éthiques. Vous aurez accès à des machines de calcul adaptées aux ambitions du challenge et des datasets seront proposés pour la tâche de fine tuning.

1er jour - Vendredi 31 mai

2e jour - Samedi 1er juin

3e jour - Dimanche 2 juin

• Le concours est ouvert à tous : étudiants, doctorants, jeunes diplômés, chercheurs et passionnés d'IA. 
• Les équipes seront composées de 3 à 5 personnes. Si vous n'avez pas d'équipe, il est possible de s'inscrire en solo et d'en consituer ou en rejoindre une sur place. 
• Le Hackathon se déroulera du 31 mai au 2 juin 2024 sur le campus d'Issy-les-Moulineaux de l'Isep.