Google se voit contraint de suspendre son programme bug bounty pour le code open source, car le flux de soumissions AI médiocres est trop élevé.
Google a temporairement suspendu son Open Source Software Vulnerability Reward Program (OSS VRP). Le géant du logiciel s’est vu obligé d’agir pour échapper à une vague de rapports de bugs générés par l’AI. Le fait que l’AI les ait rédigés n’est pas le problème, c’est la qualité médiocre et les hallucinations qui le sont.
La pause a débuté le 1er octobre et ne concerne pas les vulnérabilités soumises précédemment. Google précise en outre qu’il ne refusera pas systématiquement tous les rapports. Pour certains produits Google Cloud, le programme peut rester en vigueur.
Objectif manqué
L’objectif de l’OSS VRP était et reste de récompenser les chercheurs qui investissent du temps et des efforts pour trouver des problèmes dans l’écosystème open source de Google même. Cela nécessite normalement un travail manuel conséquent. Avec l’AI, la recherche de bugs peut s’accélérer, mais Google est désormais confronté à une multitude de « découvertes » pilotées par l’AI qui, en réalité, n’ont aucun sens.
Les rapports mal écrits, incomplets et hallucinés ne sont pas toujours immédiatement identifiables comme tels. Ainsi, les ingénieurs doivent valider le code même pour un rapport erroné, un temps qu’ils ne peuvent pas consacrer à la résolution de problèmes réels. Cela a poussé Google à suspendre le programme.
Google n’est pas le seul à être confronté à un trop grand nombre de rapports AI de faible qualité. Le problème touche l’ensemble du secteur.
