Везде
The gender history of voice assistants and their influence on users
Table of contents
Annotation Estimate Publication content
References Comments
Share
QR
Metrics
The gender history of voice assistants and their influence on users
Annotation
PII
S241328880006338-5-1
DOI
10.18254/S241328880006338-5
Publication type
Article
Статус публикации
Published
Authors
Tatyana Sergeeva 
Affiliation: Moscow State University
Address: Russian Federation, Moscow
Edition
Issue 2
Abstract

The article discusses the historical causes of the femininity of voice assistants. Discusses the practice of giving a female voice to voice assistants, which is inextricably linked to sexist attitudes, along with the practice of allocating low-paying jobs that require interaction with people for women workers. In addition to historical reasons, the article discusses the psychological reasons why women are hired to sound robots. Women raise children, women traditionally engage in psychological services. Most people are more comfortable interacting with a female assistant robot, which should not mean the correct choice of such a voice for most devices voiced by female voices. It is shown how liberal norms of equality and humanism interact with psychological preferences developed by evolution, as well as how traditional patriarchal patterns of communication that do not require respect or a tactful approach in conversations with women are represented in modern IT culture

Keywords
Voice assistants, SIRI, feminism, artificial intelligence, IT, female professions.
Received
28.08.2019
Date of publication
31.12.2019
Number of purchasers
78
Views
1875
Readers community rating
0.0 (0 votes)
Цитировать Download pdf
Additional services access
Additional services for the article
Services benefits
100 RUB / 1.0 SU
Additional services for all issues for 2019
Services benefits
1500 RUB / 15.0 SU
1 Машины уже среди нас, и мы уже вступаем с ними в те или иные формы отношений. И чаще всего это отношения начальника и подчиненного. На этом этапе важно заметить то, что в таких отношениях нередко искусственный интеллект или робот, наделенный лицом или голосом, имеет именно феминные лицо или голос. Все существующие голосовые помощники имеют женские (или похожие на женские, в случае с Сири) имена и голоса. Корни этого явления уходят в определенное стереотипное восприятие женщины, которое предписывает ей задачу обеспечения эмоциональной поддержки, а также привычную роль женщины-ассистента. Именно женщины воспитывают детей, и именно женщины занимаются эмоциональным обслуживанием мужчин. При этом дело не в доверии голосу женщины, как голосу профессионала, а скорее о привычке ставить на место обслуживающего персонала именно женщину, как недорогую обслуживающую силу, часто способную претерпевать грубое обращение клиентов или начальства.
2 Одним из подтверждений этого тезиса может служить случай, произошедший в 2017 году на крупном астрономическом фестивале Starmus Festival в Норвегии1. Кристофер Писсаридес, лауреат нобелевской премии, говоря о голосовых помощниках, сказал, что в большей степени доверяет мужскому голосу из его айфона, когда тот говорит ему о том, какая сегодня погода. Многие женщины участницы после этого покинули фестиваль.
1. Kate Lunau «Sexist Comments Spark Outrage at Major Astronomy Festival», vice.com , Jun 22 2017 ( >>>> )
3 Почти каждый телефон оснащен функцией голосовой поддержки и гендер этих программ совершенно определенный. Кассы самообслуживания оснащены электронными голосами, женскими. Банковские терминалы также оснащены женскими голосами. Безголосые и безликие терминалы крупных сетей быстрого питания не имеют гендера, терминал российской сети «Теремок» общей формой конструкции и голосом эмитирует женщину-работницу на кассе2.
2. Королев И. (2018) «Теремок» взял на работу робота-кассира «Марусю» // Сайт: cnews.ru 5 ноября ( >>>> )
4 Помимо прочего, существует целая индустрия сексуальных развлечений, основанная на использовании роботов – производство кукол и сексуализированых виртуальных партнеров. Виртуальных помощников или роботов-компаньонов.3 Чаще всего это феминные роботы, созданные разработчиками так, чтобы собирать информацию о человеке, быть угодливыми и стараться нравиться владельцам.
3. Gatebox Lab (2016) Gatebox - Promotion Movie "OKAERI"_english // youtube.com 13 декабря (https://www.youtube.com/watch?v=nkcKaNqfykg)
5 В статье «Почему роботы говорят женскими голосами?» Наиль Байназаров, редактор Rusbase4, пишет «Женственность — неотъемлемая часть развивающегося искусственного интеллекта».
4. Байназаров Н. (2015) Почему роботы говорят женскими голосами? // Сайт: rb.ru 20 октября ( >>>> )
6 В статье он пишет о том, что использование женских голосов в подобных устройствах это то, что сложилось исторически. Сначала были телефонистки, потом женщины диспетчеры, предупреждавшие пилотов истребителей о нападении. Наиль не уточняет то, что пилотов предупреждали именно они потому, что ни одной женщины на борту самолета не работало в кабине. У пилотов не было коллег-женщин, и с ними не нужно было взаимодействовать. Именно поэтому на врывающийся женский голос всегда сразу обращали внимание, и его нельзя было спутать с голосом коллеги. (Зато) об этом в своей статье пишет «Технически феминное: женщины, машины и гиперзанятость» Хелен Хестер5.
5. Hester H. Technically Female: Women, Machines, And Hyperemployment. Перевод c английского Анастасии Инопиной под редакцией Аллы Митрофановой и Лики Каревой
7 Хестер говорит о первой рекламе техники, заменявшей женщин на должностях, традиционно занятых именно ими («Что имеет шестнадцать ног, восемь болтливых языков и обходится вам суммой не менее 40000 долларов в год?» Ответ: 8 работниц, которых заменяет новая машина6).
6. Там же
8 Наиль не отрицает наличие сексизма в исторических истоках такого положения дел.
9 И, пожалуй, трудно отрицать, что одна из причин феминности женщины-помощника кроется именно в традиционной роли женщины на обслуживающих должностях, на которых нужно много терпения и вежливости. Но если все понимают, что подобный выбор на роль своего голосового интерфейса является совершенно тривиальным следованием сексисткой традиции, которая и сегодня не пропадает (ведь женщины, как и прежде, чаще всего занимают работу обслуживающего персонала: женщины на кассах, продавщицы и секретари), почему же все еще существует такая практика, как придание женского лица и голоса бесполым и неодушевленным аппаратам?
10 Причина, о которой разные авторы говорят в разном ключе, кроется в патриархальной традиции эмоционального обслуживания женщиной и психологического спокойствия рядом с женщиной.
11 Работа Ненси Чодроу «Воспроизводство материнства» начинается с фразы «Детей растит женщина»7.
7. Чодроу Н. Воспроизводство материнства: Психоанализ и социология гендера/ Пер. с англ. — М.: «Российская политическая энциклопедия» (РО ССПЭН), 2006.
12 Женщина на месте обслуживающего персонала предполагает психологический комфорт, отсутствие страха и привычное спокойствие для клиента и человека, управляющего ею. То, чем в прежние времена занималась мать (то, что даже не считалось работой или трудом), теперь легло на плечи голосовых ассистентов. И видимость этого труда во многом обусловлена именно передачей некоторых из обязанностей, что прежде выполняла мать, на машины. Они будят нас вместо матери, напоминают о чем-то, составляют расписание, даже могут помочь найти еду или прачечную.
13 На такое обслуживание и была запрограммирована СИРИ, создатели которой провели много часов, ведя беседы с профессиональными помощниками директоров, прежде чем создать её. 
Многие люди во многом зависят от своих смартфонов. Многие интернет-технологии собирают данные о пользователях, и ваш телефон может знать о вас гораздо больше, чем друзья или члены семьи. Он может хранить данные о банковской карте, личных переписках, фотографии, даже ваши отпечатки пальцев. Чтобы сделать такую большую и пугающую систему, знающую о вас почти всё, безобидной, они дают ей женский голос, создавая видимость материнской заботы. Ведь бездушной большой машине, хранящей данные о твоей жизни куда проще передать свои секреты, когда она говорит голосом актрисы Сьюзан Беннетт (сама Сьюзен считает, что разработчики, на сегодняшний день, совершенно не озабочены гендерными проблемами, что может также говорить о другой проблеме в IT среде, преобладание мужчин в профессии) .
14 «Считается нормальным возлагать на женщину обязанности помощника. Считается нормальным перебивать ее. Нормально, что она прислуживает вам» Дебора Таннен
15 Возможно, восприятие женщины как более слабого члена общества, которого можно ущемлять, уже часть нашей природы. Все мы выросли в определенной среде, в социуме, рядом с теми мужчинами, которые могли позволить себе пренебрежительное отношение к женщинам. Мы все были воспитаны женщинами и отчасти естественно, что все мы более восприимчивы именно к женскому голосу8. Так может, если это просто естественный и натуральный для человеческого сознания феномен, следует оставить всё как есть, ведь это было заложено эволюцией?
8. Dev Psychobiol. 2014 Jan, Fetuses respond to father's voice but prefer mother's voice after birth
16 В конце концов, сами разработчики говорят: «технология должна служить на благо человеку и адаптироваться к тому, как общаются люди. Человек не должен приспосабливаться к машине». И если это только машина, не так важно, какой у нее голос? Ведь человек понимает, где речь о просто машине, а где о человеке.
17 Современный английский философ, специализирующийся в области этики в сфере IT, Блей Уитби (Blay Whitby) в своей статье «Sometimes it’s hard to be a robot: A call for action on the ethics of abusing artificial agents»9, настаивает на необходимости намеренного создания роботов не похожих на людей. Он против гуманоидного интерфейса и считает, что человечность машины усиливает эффект насилия. Он уверен в том, что насилие над машиной, не воспринимается человеком, как насилие просто над машиной, люди склонны к хуманизации. С этим трудно не согласиться, ведь техника с феминными интерфейсами, не защищенная правом, законом моралью или этикой производится ежедневно и в огромном количестве. Мы взаимодействуем с этой техникой ежедневно. И в этом взаимодействии мы не может абстрагироваться, ведь даже негуманоидные виды техники10 мы склонны очеловечивать, что говорить о роботе с женским лицом?
9. Whitby B. Sometimes it’s hard to be a robot: A call for action on the ethics of abusing artificial agents // Interacting with Computers. – 2008. – Т. 20. – №. 3.

10. Bartneck C., Hu J. Exploring the abuse of robots // Interaction Studies. – 2008. – Т. 9. – №. 3. 417 p.
18 Здесь становится очевидным еще один немало важный аспект данной проблемы, а именно нейроэтический аспект. В этой связи аргументация от природы строится таким образом, чтобы обосновать точку зрения, согласно которой «природное» или «естественное» в человеке служит моральным оправданием для любых его действий. Современный канадско-американский когнитивист Стивен Пинкер, в своей фундаментальной работе «Чистый лист», в которой он излагает данные исследований в области эволюционной психологии, замечает, что «природное» не всегда означает «лучшее» или «хорошее». Если какое-то качество помогло нам выжить в процессе эволюции, это не значит, что оно лучшее с точки зрения морали11. Ник Бостром, автор труда под названием «Искусственный интеллект. Этапы. Опасения. Стратегии», ссылаясь на известного генетика Ричарда Докинза, утверждает, что эволюционно в человеке заложено стремление к насилию, люди постоянно терпят лишения, страдают и умирают. Таким образом, то, что было дано нам в результате эволюции, не должно считаться «правильным»12.
11. Пинкер С. Чистый лист: природа человека. Кто и почему отказывается признавать её сегодня / Стивен Пинкер ; Пер. с англ. – М.: Альпина нон-фикшн, 2018, - 207 стр.

12. Бостром, Ник Искусственный интеллект. Этапы. Угрозы. Стратегии / Ник Бостром ; пер.
19 А сами отношения с феминными голосовыми помощниками, которые ничем не защищены, которых можно перебить, оскорбить или прервать, неизбежно закладывает паттерны такого поведения в отношениях с другими людьми. И голосовые помощники, и роботы-компаньоны, созданные для управления умным домом или общения, роботы на улицах и терминалы, эмитирующие роль совершенно конкретного гендера, вырабатывают привычку видеть в обслуживающем и занимающимся лакейской работе персонале именно женщину. Таким образом, машины, созданные людьми со стереотипным мышлением, воспроизводят эти стереотипы в худшей форме.
20 Проблема женщин на низкооплачиваемых должностях до сих пор не решена, но продвижение в решении проблемы голосовых ассистентов уже есть. В марте 2019 года был разработан первый гендерно нейтральный голос13. Это голосовой помощник Q. Его создатели были недовольны выбором из всего двух голосов и гендерной бинарностью в среде голосовых помощников. Они решили создать «средний голос», выбрав средний тембр между мужским тембром и женским. Такой подход мог бы помочь в уходе от вопроса о выборе голоса, если мужской может быть некомфортным и вызывать триггеры, но женский является символом угнетения и продуцирует патриархальную традицию.
13. CARA CURTIS in TECH The world’s first genderless voice assistant is challenging gender stereotypes ( >>>> )
21 Несмотря на появление такого помощника, проблема голосовых ассистентов еще не решена. Обслуживающие терминалы на улицах продолжают говорить услужливыми женскими голосами. Это явление - результат многих лет угнетения женщины на низкооплачиваемых должностях, а также результат веков безвозмездного труда женщины как матери и домохозяйки. В современном мире, движущемся к видимости «второго пола», существование практики придания женского интерфейса обслуживающим роботам и роботам-помощникам приводит не к признанию равенства полов, но к установлению конкретных ролей за определенными гендерами. Такие практики только продуцируют устаревшие патриархальные традиции на современные технологии.

References

1. Bajnazarov N. (2015) Pochemu roboty govoryat zhenskimi golosami? // Sajt: rb.ru 20 oktyabrya ( >>>> )

2. Bostrom, Nik Iskusstvennyj intellekt. Ehtapy. Ugrozy. Strategii / Nik Bostrom ; per. s angl. S. Filina. — M. : Mann, Ivanov i Ferber, 2016. — 291 s.

3. Korolev I. (2018) «Teremok» vzyal na rabotu robota-kassira «Marusyu» // Sajt: cnews.ru 5 noyabrya (http://www.cnews.ru/news/top/2018-09-05_teremok_vzyal_na_rabotu_robotakassira_marusyu)

4. Pinker S. Chistyj list: priroda cheloveka. Kto i pochemu otkazyvaetsya priznavat' eyo segodnya / Stiven Pinker ; Per. s angl. – M.: Al'pina non-fikshn, 2018, - 207 str.

5. Bartneck C., Hu J. Exploring the abuse of robots // Interaction Studies. – 2008. – T. 9. – №. 3. 417 p.

6. CARA CURTIS in TECH The world’s first genderless voice assistant is challenging gender stereotypes (https://thenextweb.com/tech/2019/03/18/worlds-first-genderless-voice-challenging-gender-stereotypes/)

7. Kate Lunau «Sexist Comments Spark Outrage at Major Astronomy Festival», vice.com , Jun 22 2017 (https://www.vice.com/en_us/article/j5x3yp/starmus-festival-sexism-astronomy-science-women-stem)

8. Gatebox Lab (2016) Gatebox - Promotion Movie "OKAERI"_english // youtube.com 13 dekabrya (https://www.youtube.com/watch?v=nkcKaNqfykg)

9. Hester H. Technically Female: Women, Machines, And Hyperemployment. Perevod c anglijskogo Anastasii Inopinoj pod redaktsiej Ally Mitrofanovoj i Liki Karevoj

10. Dev Psychobiol. 2014 Jan, Fetuses respond to father's voice but prefer mother's voice after birth

11. Whitby B. Sometimes it’s hard to be a robot: A call for action on the ethics of abusing artificial agents // Interacting with Computers. – 2008. – T. 20. – №. 3.

Comments

No posts found

Write a review
Translate