Digital Daily Logo

Пользователи Твиттера провели новый эксперимент. Оказалось, что нейросеть, создающая превью картинок, отдает предпочтение людям со светлой кожей. На эксперимент пользователей вдохновила ситуация из конференции в Zoom. Дело в том, что программа не смогла отобразить темнокожего собеседника. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Один из студентов спрашивает, как остановить Zoom от удаления его головы, когда он использует виртуальный фон. Мы предложили обычный однотонный фон, хорошее освещение и т. д. Но это не сработало. Сегодня я созвонился с ним и понял, почему это происходит. Ваши догадки?». .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } При использовании фотографий из твитов выше, мобильное приложение соцсети для превью использовало фотографию светлокожего участника конференции. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Боже… любые догадки почему Твиттер в мобильном приложении по умолчанию использует только правую часть изображения?» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } История получила резонанс в соцсети: более 15 тысяч лайков и 3 тысяч ретвитов стартового треда. После этого в эксперименте использовали фотографию бывшего президента США Барака Обамы и сенатора Митча МакКонелла. Прикрепляя большие картинки к твитам, пользователи смотрели, что выберет соцсеть для превью: фото белокожего сенатора или первого темнокожего президента. Оказалось, что фото МакКонелла почти всегда было на превью. Рекомендуем кликнуть на картинку из твита, чтобы увидеть конкретный пример. Иронично, что МакКонелл во время президентства Обамы, был критиком политики президента. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Попробую ужасный эксперимент… Что выберут алгоритмы Твиттера [для создания превью]: Митча МакКонелла или Барака Обамы?» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } В ответах к твиту предположили, что все дело в красном галстуке МакКонелла, в то время как у Обамы на фото он синий. Галстуки поменяли местами, но это не сработало: для превью соцсеть также выбрала лицо МакКонелла. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «„Это из-за красного галстука! Очевидно, алгоритмы предпочитают красные галстуки!“ Окей,

Where does it come from?

давайте посмотрим…» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Пользователи пробовали увеличить количество фото Обамы. Результат не изменился. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Интересно, что получится если мы увеличим количество фото Обамы?» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Когда оказалось, что дело не в количестве фото и не в цвете галстуков, пользователи решили инвертировать цвета фотографий и получить изображение в нейтральных цветах. И только тогда лицо Обамы попало на превью одной из картинок. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Давайте попробуем цвета в негативе…» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Такой же результат достигался и при осветлении/отемнении кожи: Обаму сделали светлее, а МакКонелла — более темным. Для превью Твиттер выбрал лицо уже светлокожего Обамы. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Алгоритмы делали выбор в пользу белокожих людей не только в примере с двумя политиками. Второй эксперимент показал, что подобным образом превью выбиралось и у других картинок с людьми. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Ну вот» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Потом пользователи изменили лица местами и сделали одинаковый фон. И уже после этого алгоритм использовал лицо темнокожего человека для превью. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Я поменял их лица местами». «Тот же тест, но с одинаковым фоном картинки». .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Эксперимент повторили с другими подобными изображениями людей. Результат не менялся. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Пользователи пошли дальше: они использовали персонажей мультфильма «Симпсоны». При использовании картинок Ленни (светлокожий) и Карл (темнокожий) алгоритмы отдали предпочтение Ленни. .bp_bF a { text-decoration: none; border-bottom: 2px solid

• Integer vitae libero ac risus egestas placerat.
• Fusce lobortis lorem at ipsum semper sagittis.
• Cras ornare tristique eros elit nulla nec ante.
• Ut aliquam sollicitudin iaculis ultricies nulla.
• Vivamus molestie gravida turpis lobortis lorem.
• Nam convallis pellentesque nisl commodo nulla.

Finibus Bonorum et Malorum

Пользователи Твиттера провели новый эксперимент. Оказалось, что нейросеть, создающая превью картинок, отдает предпочтение людям со светлой кожей...

Why do we use it?

#8A52A0; } .bp_bF a:hover { border-color: transparent; } «Интересно, как поступит Твиттер с вымышленными персонажами?» .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Главный дизайнер Твиттера Дэнтли Дэвис тоже провел «ненаучный эксперимент» и пришел к подобным результатам. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Вот еще один пример того, с чем я экспериментировал. Это ненаучный тест, поскольку это изолированный пример, но он указывает на некоторые переменные, которые нам необходимо изучить. У обоих мужчин теперь одинаковые костюмы, и я прикрыл им руки. Мы все еще изучаем нейросеть». .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Лиз Келли из отдела по связям с общественностью Твиттера, сообщила, что команда провела некий тест на предвзятость, но не нашли «расовой или гендерной предвзятости», однако разработчикам «ясно, что необходимо провести дополнительные тесты». Также Келли пообещала раскрыть исходный код, по которым работают отвечающие за это алгоритмы. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Спасибо всем, кто обратил внимание на это. Перед использованием мы протестировали алгоритмы на расовую или гендерную предвзятость, но ничего не нашли. Но ясно, что необходимо сделать больше тестов. Также, мы откроем исходный код, чтобы любой мог повторить или проверить его». .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Технический директор Твиттера Параг Агравал сообщил, что они провели дополнительный анализ и алгоритмы будут постоянно улучшаться. .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } «Это очень важный вопрос. Чтобы решить эту проблему, мы провели анализ нашей модели при ее использовании. Но модель все еще требует постоянного улучшения. Я рад этому публичному, открытому и тщательному тесту — и я хочу извлечь из него уроки». .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; } Русскоязычные пользователи Твиттера обвинили американцев в неуважении к культуре других стран «Не все латиноамериканцы — испанцы»: Twitch попал в скандал из-за смайликов .bp_bF a { text-decoration: none; border-bottom: 2px solid #8A52A0; } .bp_bF a:hover { border-color: transparent; }