ØDin – Mozilla startet Bug-Bounty-Programm für Generative Künstliche Intelligenz (GenAI)

Mit ØDin, kurz für Zero-Day Investigation Network, hat Mozilla ein Bug-Bounty-Programm für Generative Künstliche Intelligenz (GenAI) gestartet.

Unter einem Bug-Bounty-Programm versteht man Initiativen, welche für das Melden von Sicherheitsproblemen Belohnungen ausloben. Mit dem Zero-Day Investigation Network, kurz ØDin, hat Mozilla nun ein Bug-Bounty-Programm für sogenannte Generative Künstliche Intelligent (GenAI) gestartet.

Während es bereits andere Bug-Bounty-Programme wie HackerOne und BugCrowd gibt, beschränken diese sich auf Sicherheitsprobleme in der Software selbst. Bei ØDin soll es um die Absicherung des gesamten Ökosystems und explizit um Schwachstellen gehen, welche andere Programme ausschließen. Dies schließt vor allem Schwachstellen in den KI-Modellen mit ein. So soll ØDin die erste und bisher einzige Bug-Bounty-Plattform sein, welche offen Anreize für die Modellforschung schafft.

Da sich die Technologielandschaft ständig weiterentwickelt, sehen wir die Notwendigkeit für die nächste Evolution der Bug-Bounty-Programme, um das GenAI-Ökosystem weiter voranzutreiben und die Schwachstellen in den Modellen selbst zu beheben. Zu diesen Schwachstellen gehören Prompt Injection, Training Data Poisoning, Denial of Service und mehr. Mozilla investiert in die nächste Generation der GenAI-Sicherheit mit dem 0Day Investigative Network (0Din), einem Bug-Bounty-Programm für große Sprachmodelle (LLMs) und andere Deep Learning Technologien. 0Din erweitert die Möglichkeiten zur Identifizierung und Behebung von GenAI-Sicherheit, indem es über die Anwendungsebene hinausgeht und sich auf neu entstehende Klassen von Schwachstellen und Schwachstellen in diesen neuen Generationen von Modellen konzentriert.

Mozilla