IBM взяла почти миллион фотографий с популярного фото-хостинга «Flickr», использовала их, чтобы выяснить, как обучать программы распознаванию лиц, и поделилась ими с внешними исследователями. Но, как отмечает телекомпания «NBC», люди, на использованных фотографиях с «Flickr», не соглашались использовать свои фотографии для разработки систем распознавания лиц, и вряд ли бы согласились участвовать в создании возможной системы по наблюдению и контролю за населением.
Безусловно, большинство фотографов в своё время получили разрешение фотографировать этих людей, с возможностью последующего размещения на Flickr. Однако сфотографированные люди не знали, что их изображения использовались компанией IBM для обучения программы распознавания лиц и обучения алгоритмов.
Так же помимо использования сайта Flickr, фотографы NBC так же занимались съёмкой людей для вышеназванных целей. Один из штатных фотографов NBC сказал: «Никто из людей, которых я фотографировал, не подозревал, что их изображения используются таким образом».
Стоит отметить, что фотографии изначально не были собраны самой IBM — они являются частью большой коллекции из 99,2 миллиона фотографий, известной как «YFCC100M», которую бывший владелец Flickr и Yahoo изначально собрал для проведения исследований. Все фотографии были переданы по лицензии Creative Commons, которая обычно является сигналом их свободного использования с некоторыми ограничениями. И, судя по всему, IBM проигнорировала эти самые ограничения.
Факт того, что снимки могли потенциально использоваться для обучения систем распознавания лиц, по профилю, полу, по этническому признаку, не является тем видом использования, который позволен согласно лицензии Creative Commons. IBM ранее уже сделала продукт для видео-аналитики, который использовал телекамеры для определения рас людей. IBM отрицала, что она «примет участие в работе, связанной с расовым профилированием».
Стоит также отметить, что первоначальные намерения IBM, возможно, были основаны на предотвращении предвзятого отношения искусственного интеллекта к определенным группам людей, хотя когда компания объявила о сборе фотоматериалов в январе 2018 года, компания объяснила, что ей нужен такой большой набор данных, который также помог бы обучаться точности и «справедливости».
В любом случае, каждому человеку сложно проверить, были ли использованы его фотографии, и попросить удалить их, поскольку IBM хранит набор данных в тайне от всех, кто не проводит научных или корпоративных исследований. NBC получила набор данных из другого источника, и создала в своей статье инструмент для фотографов, чтобы проверить, включены ли их имена Flickr в коллекцию IBM. Однако это не особо поможет людям, которые были сфотографированы будучи в неведении.
IBM сделала заявление: «Мы очень серьезно относимся к конфиденциальности отдельных лиц и уделяем большое внимание соблюдению принципов конфиденциальности». IBM пытается нас заверить в том, что к данным имеют доступ только проверенные исследователи, и в него включены только изображения, которые были общедоступными.
