Новый чат-бот Google Bard заявил, что учился на конфиденциальных данных из Gmail

Пока что чат-бот доступен для некоторых пользователей из США и Великобритании, остальные могут присоединиться к списку ожидания. В компании подчеркивают, что Bard в его нынешнем виде – это лишь эксперимент, поэтому он может ошибаться и галлюцинировать, выдавая недостоверную информацию.

Интересно Google официально выпустил чат-бот Bard, аналог популярного ChatGPT

Ошибся или проболтался?

Исследовательница Кейт Кроуфорд из Microsoft Research испытывала новую технологию и рассказала об интересных результатах беседы с нейросетью. Когда Кроуфорд спросила Bard, на каких наборах данных он учился., бот ответил, что его датасеты были взяты из разных источников, в том числе из открытых (Wikipedia, GitHub, Stack Overflow), а также из продуктов Google, в том числе поиска и Gmail.

Вопросов ко всем остальным источникам нет, ведь это открытые платформы, где каждый может свободно черпать информацию. Однако Gmail не имеет открытых ресурсов. Это сервис почты, предоставляющий индивидуальные электронные ящики для получения и отправки писем. Если Bard получил из него какие-то данные, значит это конфиденциальные переписки пользователей, которые не должны были покинуть пределы их аккаунтов.

У себя в Twitter Кроуфорд пишет, что она очень надеется, что это ошибка, а в противном случае "Google переходит серьезные юридические границы". Представители Google поспешили ответить, что Bard представляет лишь ранний эксперимент и, конечно, пока он может ошибаться. В компании подчеркнули, что Bard не учился на данных, полученных из Gmail, и все это ошибка бота.

Когда Кроуфорд спросила, могут ли у компании как-то подтвердить, что это была лишь "галлюцинация" чата, и никакие данные Gmail не были включены в его учебный процесс, ей уже никто не ответил. В отличие от Илона Маска, который решил прокомментировать тред своим традиционным "lol".