OpenAI récompensera désormais les personnes qui découvrent des bugs sur ChatGPT, à condition qu'il s'agisse de vrais bugs et non de choses étranges que ChatGPT écrit.
OpenAI lance un programme de primes pour la découverte de bugs sur ChatGPT jusqu'à 20 000 $. Mardi dernier, OpenAI a annoncé un programme de primes pour la découverte de bugs qui récompensera les gens entre 200 $ et 20 000 $ pour la découverte de bugs dans ChatGPT, les plugins OpenAI, l'API OpenAI et d'autres services connexes. "Nous vous invitons à signaler les vulnérabilités, les bugs ou les failles de sécurité que vous découvrez dans nos systèmes", a déclaré l'annonce. "En partageant vos découvertes, vous jouerez un rôle crucial dans la sécurité de notre technologie pour tous."
Le lancement d'un programme de primes pour la découverte de bugs par OpenAI intervient après une violation de données et une préoccupation croissante quant aux risques de confidentialité. Il y a quelques semaines, un bug a été découvert qui exposait les titres des chats, le premier message des nouvelles conversations et les informations de paiement des utilisateurs de ChatGPT Plus. OpenAI est également sous une intense surveillance quant à la protection des données des utilisateurs, en particulier lorsqu'il s'agit de mineurs. ChatGPT a été interdit en Italie pour cette raison même. Ces problèmes, ainsi qu'une lettre ouverte signée par Steve "Woz" Wozniak et Elon Musk appelant à une pause de six mois sur les systèmes d'IA, semblent avoir incité OpenAI à affirmer publiquement son engagement en matière de sécurité.
Le programme de primes pour la découverte de bugs est géré par Bugcrowd, qui gère les soumissions et les récompenses. Le montant de la récompense est basé sur la gravité du bug. Mais ne vous réjouissez pas trop vite. Il y a des directives et des règles d'engagement détaillées sur ce qui ne sera pas récompensé. Les jailbreaks, "faire dire des choses méchantes au modèle", et les hallucinations sont explicitement hors sujet. Ne tentez pas non plus des attaques qui pourraient "dégrader, perturber ou avoir un impact négatif sur les services ou l'expérience utilisateur", comme une attaque de déni de service (DDoS) ou des escroqueries telles que l'ingénierie sociale ou le phishing.