Microsoft заплатить вам 15 000 доларів, якщо ви зможете надурити Bing AI

18 жовтня 2023, 11:01
Читать новость на русском

Джерело:

Microsoft

Компанія Microsoft оголосила про програму Bug Bounty, яка дає можливість будь-кому шукати вразливості у програмному забезпеченні й отримувати за це винагороду. Цьогоріч змагання концентрується на штучному інтелекті.

Деталі

Пошукова система Bing була розроблена Microsoft майже 15 років тому, але весь цей час не оновлювалась і сильно відстала від конкурентів. У лютому цього року компанія почала змінювати її, інтегруючи зі штучним інтелектом. Крім того, представили оновлену версію браузера Edge з вбудованим доступом до чатбота Bing Chat, розробленого на основі нейромережі ChatGPT. 

Дивіться також Google успішно справився з найпотужнішою в історії DDoS-атакою

Щоб покращити роботу цих та інших ШІ-технологій, Microsoft вирішили влаштувати їм своєрідний тест-драйв, запропонувавши винагороду за пошук вразливостей у системах. Найбільш просунутим зломщикам обіцяно пристойну винагороду від 2000 до 15 000 доларів, залежно від серйозності знайденого багу та якості наданого звіту.

  • Відповідно до запропонованих Microsoft критеріїв, учасники акції повинні представити в письмовому або відеоформаті виявлені й раніше невідомі "важливі" та "критичні" для безпеки вразливості. За баги помірного та низького рівня компанія не платитиме.
  • Наприклад, потрібно спровокувати Bing AI генерувати в чаті непристойні та навіть образливі відповіді, що порушують вимоги компанії.
  • Безумовним досягненням стане доступ до закритої інформації, пов'язаної з даними машинного навчання Bing AI, процесом прийняття рішень або конфіденційною інформацією про користувачів.
  • Також заплатять, якщо ви зможете змінити роботу ШІ так, щоб це поширювалося не лише на ваш із ним діалог, а й на всі інші бесіди з користувачами.

У конкурсі також тестуватимуть інтеграцію Bing з Microsoft Start Application та Skype.