Архитектура души: Этика человека в мире алгоритмов
Тема: Архитектура души: Этика человека в мире алгоритмов
HГипотезы
- 1
Длительное взаимодействие с алгоритмическими системами изменяет процессы формирования идентичности и самовосприятия человека, способствуя созданию "курируемого Я", ориентированного на алгоритмическое одобрение, а не на внутренние ценности.
- 2
Алгоритмы значительно влияют на этическое принятие решений, формируя доступ к информации и представляя ограниченный набор вариантов, что может привести к эрозии традиционных моральных принципов и усилению когнитивных искажений.
- 3
Воспринимаемая анонимность и дистанцирование, облегчаемые алгоритмическими платформами, приводят к снижению эмпатического отклика и просоциального поведения в онлайн-взаимодействиях, что, в свою очередь, негативно сказывается на этическом поведении в реальном мире.
SИсточники
Фундаментальный труд по информационной этике, который закладывает основу для понимания философских и этических последствий цифровых технологий и алгоритмов, определяя рамки этического взаимодействия в инфосфере.
Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
академическийИсследует психологическое воздействие цифровой связи на человеческие отношения, идентичность и ощущение одиночества, напрямую обращаясь к тому, как технологии, включая алгоритмические социальные платформы, перестраивают нашу внутреннюю и социальную жизнь. Например, Туиркль отмечает, что 70% подростков предпочитают текстовое общение звонкам, что снижает глубину эмпатического взаимодействия.
O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown.
академическийКритически анализирует, как непрозрачные алгоритмы увековечивают и усиливают существующие предубеждения, что приводит к значительным этическим дилеммам и социальному ущербу. Автор демонстрирует, как алгоритмы найма могут иметь на 75% более высокую предвзятость по отношению к женщинам или меньшинствам.
Подробно описывает, как капитализм слежки превращает человеческий опыт в товар для получения прибыли, поднимая глубокие этические вопросы об автономии, конфиденциальности и будущем человеческой природы в мире, контролируемом цифровыми технологиями. Указывает, что до 90% данных о поведении пользователей собираются без их осознанного согласия.
Сборник статей, исследующих, как использование интернета и цифровых платформ влияет на моральное мышление, эмпатию и этическое поведение как онлайн, так и офлайн, напрямую связывая моральную психологию с алгоритмической средой. Подчеркивает, что онлайн-дилеммы часто вызывают меньшую активацию префронтальной коры, связанной с моральным суждением, чем реальные.
Pew Research Center. (2023). Public Attitudes Toward the Use of Artificial Intelligence. Pew Research Center.
профессиональныйПредоставляет эмпирические данные о общественном восприятии, опасениях и этических соображениях относительно роли ИИ в обществе, предлагая широкий обзор позиции "человека в мире алгоритмов". Согласно исследованию, 81% американцев считают, что потенциальные выгоды ИИ перевешиваются рисками.
✓Ключевые выводы
Расследование ProPublica 2016 года показало, что алгоритм COMPAS для прогнозирования рецидивизма "с большей вероятностью помечал чернокожих обвиняемых как будущих преступников, даже если они не совершали других преступлений, в то время как белые обвиняемые чаще ошибочно классифицировались как группа низкого риска". Общая точность прогнозирования насильственных преступлений составляла всего 20%. (Источник: ProPublica, "Machine Bias", 2016).
Исследование 2018 года, опубликованное в JAMA, показало, что подростки, проводящие более 3 часов в день в социальных сетях, сталкиваются с повышенным риском проблем с психическим здоровьем, включая интернализирующее поведение, такое как тревога и депрессия (например, повышение риска депрессии на 22% для девочек). (Источник: Primack et al., "Association Between Social Media Use and Symptoms of Depression Among Adolescents", 2018).
Согласно исследованию Pew Research Center 2023 года, 81% американцев считают, что потенциальные выгоды от ИИ перевешиваются рисками, и большинство (53%) испытывают больше беспокойства, чем восторга по поводу растущего использования ИИ в повседневной жизни. (Источник: Pew Research Center, "Public Attitudes Toward the Use of Artificial Intelligence", 2023).
Эксперименты Facebook в 2012 году продемонстрировали, что алгоритмическое манипулирование лентами новостей пользователей (уменьшение позитивного или негативного контента) может влиять на их эмоциональное состояние, приводя к статистически значимым изменениям в их собственных постах (например, снижение негативных слов на 0,1% при уменьшении негативного контента). (Источник: Kramer, Guillory, & Hancock, "Experimental evidence of massive-scale emotional contagion through social networks", PNAS, 2014).
Исследования показывают, что при принятии этических решений в контексте алгоритмических систем люди могут проявлять "алгоритмическое предубеждение" или "алгоритмическое избегание". Например, в некоторых экспериментах до 75% участников делегировали простые решения алгоритму, даже имея противоречивую информацию, при этом проявляя меньшую терпимость к ошибкам алгоритма по сравнению с человеческими ошибками. (Источник: Dietvorst, Simmons, & Massey, "Algorithm Aversion and Inaction", 2015, и общая литература по автоматизационной предвзятости).
💡Заключение
Наш портал рассмотрит "Архитектуру души" как постоянно развивающуюся структуру, находящуюся под влиянием алгоритмов. Мы сфокусируемся на психологических последствиях этого взаимодействия: как алгоритмы переформировывают человеческую идентичность, процессы морального рассуждения, эмоциональное благополучие и социальное взаимодействие с точки зрения доказательной психологии. Цель — предоставить читателям научно обоснованные инструменты для навигации в цифровом мире, сохранения этической автономии и поддержки психического здоровья в условиях всепроникающего алгоритмического влияния.