УДК 177
DOI: 10.24412/2713-1033-2023-3-64-78
А. А. Сычев
Национальный исследовательский Мордовский государственный университет им. Н.П. Огарева, Саранск, Россия, e-mail: sychevaa@mail.ru
ЦЕННОСТЬ ДОВЕРИЯ В ЭПОХУ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И НОВОЙ ЭТИКИ: ПРОБЛЕМЫ И ВЫЗОВЫ[1]
В статье рассмотрена трансформация отношений доверия в условиях развития информационного общества. «Цифровое доверие» рассматривается в двух аспектах: как уверенность человека в надежности цифровых систем и как доверие к людям, опосредованное современными информационными технологиями. Сверхдоверие к цифровым технологиям рассмотрено в контексте технооптимизма. Это доверие подрывается ограниченностью, непрозрачностью, предвзятостью алгоритмов искусственного интеллекта, возможностью технических сбоев и злоупотреблений при его функционировании, что порождает иную крайность – цифровое сверхнедоверие. Демонстрируется, что опосредованность общения в цифровой среде, создающая возможности для введения собеседника в заблуждение, подрывает доверие к людям. По мере совершенствования алгоритмов ИИ (искусственного интеллекта) появляется все больше возможностей для создания «дипфейков», ИИ все легче выдать за человека, а результаты его работы – за авторский продукт.
Еще более актуальной проблемой является усиливающаяся поляризация ценностей в интернет-пространстве. Формирование «пузыря фильтров» создает условия, при которых пользователь утверждается в приоритетности личных интересов и безальтернативности собственной ценностной позиции, а любые противоположные позиции воспринимает как изначально неверные. В статье показано, как особенности сетевой коммуникации способствуют формированию, с одной стороны, норм «новой этики», а с другой – усилению позиций сторонников коллективной морали. Эта поляризация ценностей обостряет конфликтность в современном обществе, поддерживая доверие к одним за счет исключения других. Автор делает вывод, что отношения доверия можно выстроить лишь в том случае, если общество и индивид будут готовы согласовывать свои интересы и двигаться навстречу друг к другу.
Ключевые слова: доверие, информатизация, «новая этика», цифровые системы, искусственный интеллект
Благодарность: статья подготовлена за счет гранта Российского научного фонда № 23-28-01167, https://rscf.ru/project/23-28-01167/
A. A. Sychev
National Research Mordovia State University, Saransk, Russia, e-mail: sychevaa@mail.ru
THE VALUE OF TRUST IN THE ERA OF ARTIFICIAL INTELLIGENCE AND NEW ETHICS: PROBLEMS AND CHALLENGES[2]
The article examines the transformation of trust in the context of the development of the information society. “Digital trust” is considered in two aspects: as a person’s confidence in the reliability of digital systems and as trust in people, mediated by modern information technologies. Overtrust in digital technologies is considered as a modern form of techno-optimism. Trust is undermined by the narrowness, opacity, bias of artificial intelligence algorithms, the possibility of technical failures and malicious interference during its functioning, which gives rise to another extreme – digital super-distrust. It is demonstrated that the indirectness of communication in the digital environment, which creates opportunities for misleading the interlocutor, undermines trust in people. As AI (artificial intelligence) algorithms improve, more and more opportunities arise for creating “deepfakes”; it becomes increasingly easier to take AI as a person, and the results of its work as an original product.
Another problem is the polarization of values in the Internet space. The formation of a “filter bubble” creates conditions under which the user affirms the priority of personal interests, the lack of alternative to his own value position, and perceives any opposing positions as initially incorrect. The paper shows how the features of network communication contribute to the formation of the norms of “new ethics” and, at the same time, to the support of the value system based on the priority of the common good. This confrontation exacerbates conflict in modern society, maintaining trust among one group of people at the expense of excluding other groups. The author concludes that relationships of trust can only be built if society and the individual are ready to coordinate their interests and move towards each other.
Keywords: trust, informatization, “new ethics”, digital systems, artificial intelligence
Acknowledgment: the study was supported by the Russian Science Foundation (RSF), project no. 23-28-01167, https://rscf.ru/project/23-28-01167/
[1] Материалы исследования представлены в докладе на круглом столе «Человек vs технологии в эпоху больших данных и искусственного интеллекта» в рамках XIII Международной Грушинской социологической конференции (Москва, 25-27 мая 2023 г.)
[2] The research materials were presented in a report at the XIII International Sociological Grushin Conference “Reconstruction of the World: Research of (in) a New Reality” (Moscow, May 27, 2023)