Ссылаться на эту работу следует следующим образом:
К.В.Курносова. Самообучающийся чат-бот как квазисубъект педагогического взаимодействия // Письма в Эмиссия.Оффлайн (The Emissia.Offline Letters): электронный научный журнал. 2020. №8 (август). ART 2868. URL: http://emissia.org/offline/2020/2868.htm

----------

Курносова Кристина Валерьевна
аспирант, институт педагогики, Российский государственный педагогический университет им. А. И. Герцена, Санкт-Петербург
chkurnossowa903@gmail.com

Самообучающийся чат-бот как квазисубъект педагогического взаимодействия

Аннотация
Cтавится проблема совершенствования сетевой составляющей смешанного обучения посредством использования чат-ботов, которые, на основании представленного анализа категории «субъект», характеризуются как квазисубъекты педагогического взаимодействия, поскольку отвечают ряду признаков субъекта.

Ключевые слова: смешанное обучение, педагогическое взаимодействие, субъект, чат-бот, квазисубъект.

----------

Kristina V. Kurnosova
Postgraduate student, Institute of Pedagogy, Al. Herzen State Pedagogical University of Russia, St. Petersburg
chkurnossowa903@gmail.com

Self-learning chat bot as a quasi-subject of pedagogical interaction

Abstract
There is a problem of improving the network component of blended learning through the use of chat bots, which, based on the presented analysis of the category "subject", are characterized as quasi-subjects of pedagogical interaction, since they correspond to а number of subject characteristics.

Keywords: blended learning, pedagogical interaction, subject, chatbot, quasi-subject.

----------

Интегрирование информационно-коммуникационных технологий в традиционное очное обучение в вузе породило интегральную форму организации образовательного процесса – смешанное обучение. Эта форма - гибрид очной формы и обучения, осуществляемого с использованием Глобальной сети в режиме реального времени (on-line), либо отсроченного (off-line), характеризуется высоким уровнем самостоятельности обучающихся, применением активных методов обучения, требует более высокой, нежели в очном обучении, мотивации обучающихся.

Несмотря на высокий потенциал смешанного обучения, существуют и определенные сложности в его реализации. Связаны они, в первую очередь, с онлайн-составляющей - трудностями при работе с онлайн-материалом, при выполнении онлайн-заданий, что может привести и, зачастую, приводит к отказу от обучения.

Многочисленные исследования дистанционной формы обучения (см. [1] и др.), свидетельствуют, что весьма существенной для устойчивости учебного процесса проблемой является отсутствие диалогичности общения и взаимодействия с обучающимися, слабая ориентация на обратную связь с ними [2]. К отрицательным психологическим аспектам использования дистанционной формы обучения также относят отсутствие непосредственного эмоционального, энергетического, суггестивного контакта и механистичность проецирования законов реального мира на виртуальную среду [3].

Иными словами, в процессе обучения в сети наблюдаются серьезный дефицит эмоционального и интеллектуального сопереживания, сомышления и содействия между субъектами - основы внутренних механизмов психологического контакта, который, в свою очередь, является условием и следствием продуктивного педагогического взаимодействия - двустороннего субъект-субъектного взаимодействия, характерной особенностью которого является общая цель [4]. Это двустороннее взаимодействие при обучении в сети опосредуется виртуальной средой [5], что и провоцирует сложности в педагогическом взаимодействии. Следует принимать во внимание и особенности современных учащихся - представителей поколения, адаптированного к технологическим достижениям. Важным для них является получение максимума информации при минимуме затрат, визуализация информации, эмоциональная привязка к ней [6], удовлетворение познавательной или коммуникативной потребности не отсрочено, а в момент ее возникновения – на пике интереса [7]. Подобные личностные особенности современного обучающегося, как субъекта образовательного процесса, требуют особого внимания при организации любого образовательного процесса, в особенности – при смешанном обучении.

Таким образом, педагогическая проблема при организации педагогического взаимодействия в условиях смешанного обучения обуславливается как личностными особенностями самих обучающихся, так и опосредованностью взаимодействия в образовательной среде. Решение этой проблемы, как нам представляется, может состоять в использовании чат-бота.

Чат-бот (от английского «chat» - вести чат, общаться в режиме реального времени, «bot» - робот) – это компьютерная программа, которая взаимодействует с человеком на обычном языке посредством ввода текста или голосового сообщения, и интерфейс которой интуитивно понятен и прост. [8]. Составляющими элементами данного взаимодействия являются понимание запроса пользователя и выполнение каких-либо действий чат-ботом перед подготовкой ответа пользователю.

Чат-боты имеют собственную историю развития. Отправной точкой в этой истории можно считать тест Тьюринга, появившийся в 1950 году. Автор задался вопросом - может ли компьютер осуществлять коммуникацию неотличимым от человека способом - и создал тест, который представлял собой игру в имитацию («Imitation game»), при котором независимое жюри должно было распознать среди двух «субъектов»: машину и человека, основываясь только на полученных ответах от них [9].

В 1961-м году компания IBM создает SHОEBОX – первую систему по распознаванию речи. Устройство могло распознавать 16 слов, полученных в устной форме. Однако, истинно первым чат-ботом считается ELIZA, разработанная Джозефом Вейценбаумом в 1964-1966 гг. Это бот имитировал беседу с психотерапевтом - обладал знаниями в области психотерапии, задавал открытые вопросы и переадресовывал вопросы пациенту, делая акцент на собеседнике [10]. Было обнаружено, что участники теста быстро начинали антропоморфизировать ELIZA и рассказывали ему свои истории, доверяли свои секреты и персональные данные.

В образовательных учреждениях с 1970-х годов приступили к разработке интеллектуальных систем обучения и интеллектуальных педагогических агентов (человекоподобных или мультяшных персонажей). Дж. Карбонелл создал систему SCHOLAR, которая демонстрировала эффективность применения искусственного интеллекта в учебном процессе - умела задавать вопросы и отвечать на них, однако, для взаимодействия с ней следовало использовались строгие шаблоны построения вопроса и ответа, в противном случае, система просила перефразировать вопрос или ответ [11].

В 1972-м году свет увидел другой чат-бот – PARRY, который, обладая способностью вести беседу, имитировал параноидального шизофреника, провоцировал собеседника вступать в полемику и, тем самым, вынуждал давать более исчерпывающие или полные ответы на поставленные вопросы. Чат-бот использовался в качестве тренажера для молодых специалистов в области психиатрии.

В 1984-м году появился чат-бот MARK V. SHANEY, логические действия которого основывалась на вероятностной модели цепи Маркова. Взяв за основу какой-либо текст или сообщение в сети, программа составляла таблицу частотности использования слов в «прочитанном» тексте. Предложения получались часто комичными и нелогичными, и вызывали различные реакции пользователей сети. Утверждают, что некоторые пользователи считали программу реальным человеком [12].

В 1988-м году началась разработка развлекательного чат-бота JABBERWACKY, особенностью бота стала его нежесткая кодировка, что позволяло ему учиться у людей. Бот мог говорить на разных языках, владея ими на разных уровнях - все зависело от входящих лингвистических данных, полученных от пользователей. Являясь отражением аудитории, с которой он общался, чат-бот мог быть насмешливым, провокационным и менять свое настроение [13].

В 1995-м году появилась A.L.I.C.E., первый чат-бот, распознающий естественный язык. База знаний чат-бота структурировалась с помощью языка разметки для искусственного интеллекта - AIML (Artificial Intelligence Markup Language). Модель обучения в A.L.I.C.E. названа контролируемым обучением, поскольку владелец бота мог отслеживать его разговоры, корректировать их и добавлять новые категории. Диалог A.L.I.C.E. основан на алгоритмах автоматического обнаружения закономерностей в заложенных диалоговых данных [14].

В 1997-м году дебютировал чат-бот CLIPPY (Microsoft), визуализированный автором Кеваном Аттеберри в виде скрепки. Программа CLIPPY базировалась на представлениях Клиффорда Насса и Байрона Ривза (Clifford Nass and Byron Reeves) о том, что компьютеры – это социальные коммуникаторы (CASA теория), и воспринимаются людьми так же, как, если бы были людьми. Чат-бот обрабатывал естественный язык, строил прогностические вычисления, моделировал цели пользователей и предлагал свою помощь, когда считал это уместным [15].

В 2014-м году появляется более совершенный чат-бот ALEXA от Amazon. Это интеллектуальный персональный помощник, связанный со смарт-спикером «Echo». Чат-бот, расширяя возможности смарт-спикера, управляя несколькими интеллектуальными устройствами, выступая в качестве центра домашней автоматизации, способен к голосовому воспроизведению, составлению списка дел, а также поиску и подбору самой разнообразной информации.

2014-й год ознаменовался появлением еще одного умного чат-бота – CORTANA от Micrоsоft. Этот интеллектуальный персональный помощник умел распознавать естественную речь без необходимости ввода текста с клавиатуры, обладал чувством юмора, предугадывал действия и предпочтения пользователя, мог управлять его личной почтой, расписанием и напоминаниями.

В 2016-м году Google представил GOOGLE ASSISTANT, который явился связующим звеном между многими приложениями компании. Он способен воспринимать естественную речь, совершать различные операции по поиску и вспомогательным действиям. Начать работу с помощником можно со слов «Ок, Google!» или с нажатия кнопки главного экрана на смартфоне.

В 2017-м году появилась BIXBY от Samsung, способная выполнять целый ряд задач: от обычного составления списка дел до управления другими устройствами, осуществляя как контекстный поиск, так и визуальный.

2017-й год считается годом рождения АЛИСЫ от Яндекса. АЛИСА, выступая, как и предыдущие чат-боты, в качестве виртуального помощника, наделена способностью выбрать музыку, поставить будильник, оформить заказ в Интернет-магазине и многое другое. Кроме того, АЛИСА может поддерживать диалоговое общение, основываясь на распознавании голоса человека, и строить ответы без загруженных шаблонов.

Как видно, с течением времени чат-боты становятся все более совершенными, способными выполнять все большее число функций. Это способствует росту интереса к их использованию и в сфере образования. Уже сейчас в образовательной практике чат-боты применяются для удовлетворения информационного запроса, получения доступа к источнику информации, для получения файлов, документов, ссылок, ретрансляции вопроса преподавателю или, напротив, студентам, рассылки информации.

Сегодня чат-бот демонстрирует очевидную способность к непринужденному диалогу с пользователями, что можно использовать для поддержания вовлеченности пользователей в процесс обучения, для построения учебных стратегий [16]. Однако, включая чат-бот в такое (по сути дела - педагогическое) взаимодействие, мы оставляем в стороне вопрос о том, в качестве чего (или кого) выступает он в этом взаимодействии. В качестве объекта - если мы приравниваем его к учебно-методическому материалу? Или в качестве некого подобия субъекта, демонстрируя современные возможности искусственного интеллекта к самообучению и независимой активности? Для понимания места и роли чат-бота в педагогическом взаимодействии обратимся к понятию субъекта.

В философии, где понятие субъекта – одно из ключевых, субъект рассматривается как некий целостный, сознательный и автономный творец своего жизненного пути [17]. Вместе с тем, сегодня происходит определенное переосмысление понятия субъекта, его характеристик и соотнесения его с другими категориями. По современным представлениям субъект не противопоставляется объекту: современные тенденции в философии - это преодоление разрыва между субъектом и объектом [18]. В социологии существует акторно-сетевая теория, которая выводит на первый план актора или актанта (действующего субъекта), характеристики которого проявляются лишь во взаимодействии с другими акторами, а таковым действующим субъектом может выступать не только человек, но любой иной объект или живое существо [19]. В педагогическом словаре «субъект» трактуется как «носитель предметно-практической активности и познания, осуществляющий изменение в других и в себе самом» [20]. Субъект в настоящее время не всегда ассоциируется с человеком, но выступает носителем определенных характеристик, к которым разные исследователи относят активность, самостоятельность, самодетерминацию и самосовершенствование, предметность, совместную деятельность, творчество. Автор [21] замечает, что содержание понятия «субъект» в литературе остается весьма неоднозначным. Однако, на наш взгляд, характеристики субъекта, приводимые различными авторами, не противоречат друг другу. Так, еще Р.Декарт подчеркивал превосходство субъекта над объектом, овладение которым основано на использовании субъектом своих познаний и умений [23]. У Б.Г.Ананьева можно найти, что субъект – активное, деятельное существо, обладающее способностью практического преобразования [22]. В монографии В.А.Сластенина при описании субъекта обращается внимание на то, что субъект проявляет себя через свое отношение к образовательно-воспитательному процессу, т.е. субъект наделен способностью давать оценку происходящему [24]. В.А.Кан Калик отмечает, что субъект выступает единомышленником с другим субъектом [25]. У С.Л.Рубинштейна находим, что субъект преобразовывает свою действительность с целью овладения знаниями [26]. Суммируя вышеперечисленное, можно заключить, что субъект выступает в качестве междисциплинарной многогранной категории и характеризуется активной деятельностью, самостоятельностью, самосовершенствованием, осознанностью и творческим началом, истинная сущность которого проявляется во взаимодействии.

Вернемся теперь к рассмотрению характеристик чат-бота. Особенностью чат-бота является то, что он способен вступать во взаимодействие и участвовать в диалоговом общении, основываясь на естественном языке. Именно способность чат бота обрабатывать разговорную речь человека и правильно конструировать ответы на том же языке, выделяет его среди других компьютерных программ и приложений. В основе конструкции чат-бота лежит искусственный интеллект и машинное обучение (AI and Machine Learning) – «набор методологических подходов и имеющихся реальных возможностей, благодаря которым мощные компьютерные системы могут находить в своих массивах оперативной и внешней памяти такие данные, которые изначально могли и не предполагаться, так как были полностью неизвестны их новые взаимосвязи и закономерности» [27].

Таким образом, чат-бот при формировании ответов пользователю проявляет долю самостоятельности, потому как ответ не прописан заранее, а формируется за счет искусственного интеллекта. Помимо этого, чат-бот способен к самосовершенствованию, и проявляется это в расширении базы знаний чат-ботом и совершенствовании его ответов при однотипных запросах. Однако, хорошо справляясь с автоматизацией рутинных процессов и с обработкой большого объема данных чат-бот пока еще слабо проявляет творческий потенциал. Осознанность чат-бота на данный момент не проявляется вовсе.

Таким образом, чат-бот не может являться полноценным субъектом, способным полностью нести ответственность за свой выбор и творчески подходить к решению нестандартных задач. Однако, причислять чат-бот к категории объекта, при очевидном проявлении им доли самостоятельности, тоже является ошибочным. Это позволяет допустить, что чат-бот в педагогическом взаимодействии занимает промежуточное положение между объектом и субъектом, и для его характеристики, вероятно, логично обратиться к категории «квазисубъект».

Квазисубъект – это модель субъекта, являющаяся продуктом воображения человека и вступающая в мысленный диалог с ним, или некий образ, существующий в объектированной форме, созданный для организации с его помощью общения с другими людьми [28].

Упоминание о квазисубъекте (или квазиобъекте) можно встретить в трудах французского философа Мишеля Серра. Рассматривая объект в социуме, М. Серр придавал ему значение квазиобъекта и квазисубъекта одновременно, полагая, что квазиобъектом можно назвать объект по причине его нетождественности субъекту, а квазисубъектом – по причине его способности указывать на субъект, без которого субъект вовсе не субъект; а, порой, сам субъект стремится стать квазиобъектом [29]. Мы, однако, разделяем позицию В. И. Панова, состоящую в том, что квазиобъектом может выступать субъект (или человек), занимающий пассивную позицию в отношениях с другими субъектами или окружающим его миром, и уподобляющий себя объекту (мнимому объекту). Квазисубъет, в свою очередь, это объект, который активно воздействует на человека, вне зависимости от свойственных ему психологических свойств или наделенных (надуманных) ему качеств самим субъектом (человеком). [30].

Отмечено, что любой пространственно-предметный или технологический компонент образовательной среды (у нас это чат-бот), выполняя определенную знаково-символьную функцию и активно воздействуя на учащегося, становится квазисубъектом [31]. В данном случае проявляется психологическое явления - субъектификация объектов, которое может раскрываться в рамках коммуникативной деятельности и выражается в трех направлениях: гносеологическом («считать субъектом»), аксиологическом («относиться как к субъекту»), праксиологическом («поступать как с субъектом») [32].

Обобщая изложенное выше, следует подчеркнуть, что образовательные чат-боты способны содействовать организации педагогического взаимодействия с учетом личностных особенностей обучаемых и особенностей образовательной среды, потому как обеспечивают мгновенное предоставление необходимой информации, создают имитацию психологического контакта.

Помимо этого, чат-боты позволяют учителю при необходимости подключаться к взаимодействию, собирать данные по запросам обучаемых и анализировать их. По этой причине, немаловажное значение имеют исследования по разработке академически-полезных и привлекательных для обучаемых интеллектуальных чат-ботов, которые будут не только использовать технологические и научные достижения, но и понимать эмоциональные, когнитивные и социальные образовательные проблемы учащихся.

Автор выражает признательность проф. А. А. Ахаяну за постановку задачи, обсуждение материала и научную редакцию статьи.

Литература

1.Полат Е. С. Концепция дистанционного обучения на базе компьютерных телекоммуникаций в России / докт. пед. наук, проф. Е. С. Полат, канд. техн. наук А. Е. Петров // URL: http://www.distant.ioso.ru/library/publication/concept.htm [Дата обращения: 02.07.2020].

2.Коротаева Е. В. О взаимодействии субъектов в дистанционной форме обучения // Педагогическое образование в России. - 2014. - №3. URL: https://cyberleninka.ru/article/n/o-vzaimodeystvii-subektov-v-distantsionnoy-forme-obucheniya .- [Дата обращения 02.07.2020].

3.Трунов Д. Г. Виртуальный мир: вред или польза? // Формирование гуманитарной среды и внеучебная работа в вузе, техникуме, школе: материалы V региональной научно-практической конференции (27 мая 2003 г.). Пермь: ПГТУ, 2003. Т. 1. - С. 222-227.

4.Зимняя И.А. Педагогическая психология: учебник для вузов / И.А. Зимняя. – Издание второе, дополненное, исправленное и переработанное. – Москва: Университетская книга, Логос, 2009. – 384 с.

5.Иванов Д. В. Виртуализация общества. Санкт-Петербург: "Петербургское Востоковедение" - 2000. - 96 с. URL: http://lib.ru/POLITOLOG/ivanov_d_v.txt [Дата обращения 02.07.2020].

6.Howe N. (1991). Generations: The History of America’s Future, 1584 to 2069 / N. Howe, W. Strauss. – New York: William Morrow & Company, 1991. – 538 с.

7.Ахаян А.А. Сетевая личность как педагогическое понятие: приглашение к размышлению // Письма в Эмиссия.Оффлайн: электронный научный журнал. 2017. №8 (декабрь). ART 2560. URL: http://emissia.org/offline/2017/2560.htm [Дата обращения 02.07.2020]

8.Фирсова Е.А. Перспективы использования чат-ботов в высшем образовании /Е.А. Фирсова // Информатизация науки и образования, 2018. – №3(35). – С. 157–166.

9.Turing A. M. I.—Computing machinery and intelligence, Mind, Volume LIX, Issue 236, October 1950, Pages 433–460, https://doi.org/10.1093/mind/LIX.236.433 .- [Дата обращения 02.07.2020]

10.Weizenbaum, J. (1983). ELIZA—a computer program for the study of natural language communication between man and machine. Communications of the ACM, 26, 23–28. URL: https://doi.org/10.1145/357980.357991.- [Дата обращения 02.07.2020]

11.Carbonell, J.: AI in CAI: An Artificial Intelligence Approach to Computer-Assisted Instruc-tion. IEEE Tr. On Man-Machine Systems 11, 190–202 (1970)

12. A. Dewdney. A potpourri of programmed prose and prosody. Scientific American, 122-TK, June 1989 URL: https://www.jstor.org/stable/24987295?seq=1.

13.De Angeli A., Carpenter R. Stupid computer! Abuse and social identities.// Proceedings of Abuse: The darker side of Human-Computer Interaction С.19-25. URL: https://www.researchgate.net/profile/Antonella_De_Angeli/ publication/239541336_Stupid_computer_Abuse_and_social_identities/links/54a6a5f60cf267bdb909db39.pdf#page=19. [Дата обращения: 02.07.2020].

14.Pilato, G., Vassallo, G., Augello, A., Vasile, M., and Gaglio, S. 2005. “Expert Chat-Bots for Cultural Heritage,” Intelligenza Artificiale (2:2), pp. 25–31.

15.Baym N., Shifman L., Persaud C., Wagman K. Intelligent failures: Clippy memes and the limits of digital assistants // AoIR Selected Papers of Internet Research: The 20th Annual Conference of the Association of Internet Researchers, октябрь 2019 года. – Брисбен, 2019. URL: https://doi.org/10.5210/spir.v2019i0.10923. [Дата обращения: 02.07.2020].

16.Garrett M. (2017). Learning and educational applications of chatbot technologies // Australia: Cinglevue. – 2017. – 11 августа. URL: https://www.cinglevue.com/learning-educationalapplications-chatbot-technologies/ . [Дата обращения: 02.07.2020].

17.Ильин А. Н. Антропология субъекта //Электронный журнал Знание. Понимание. Умение. -2010. -№ 1. -Философия. Политология.

18.Меньчиков Г. П. Неоклассическая философия: сущность, содержание, значение // Учен. зап. Казан. ун-та. Сер. Гуманит. науки. - 2013. - №1. URL: https://cyberleninka.ru/article/n/neoklassicheskaya-filosofiya-suschnost-soderzhanie-znachenie. [Дата обращения: 02.07.2020].

19.Латур Б. (2014) Пересборка социального: введение в акторно-сетевую теорию. М.: Изд. дом Высшей школы экономики.

20.Коджаспирова Г. М., Коджаспиров А. Ю. Педагогический словарь. М.: Академия, 2003. — 176 с.

21.Годник С. М. Педагогическая деятельность: парадоксы теории и практики//Вестник ВГУ. Воронеж: ВГУ, 2001. -№ 1. -С. 27-38.

22.Ананьев Б. Г. Личность, субъект деятельности, индивидуальность.– Москва: Директ-Медиа, 2008. – 134 с.

23.Декарт Р. Сочинения в двух томах. – Москва, Т. 1. - 1989; Т. 2. - 1994.

24.Сластенин В. А. и др. Педагогика: Учеб. пособие для студ. высш. пед. учеб. заведений / В. А. Сластенин, И. Ф. Исаев, Е. Н. Шиянов; Под ред. В.А. Сластенина. - М.: Издательский центр "Академия", 2002. - 576 с.

25.Кан-Калик В.А. Педагогическая деятельность как творческий процесс. - Грозный: Чечено-Ингуш. кн. изд-во, 1976. - 286 с.

26.Рубинштейн С. Л. Проблемы общей психологии. - Питер, 2002. – 720с.

27.Чаботарев А. Цифровые технологии настоящего и будущего // Журнал Авиапанорама. - 2018. URL: https://www.aviapanorama.ru/wp-content/uploads/2018/08/04.pdf . [Дата обращения: 02.07.2020].

28.Каган М. С. Мир общения. Проблема межсубъектных отношений. – М.: Изд-во политической литературы, 1988. – 319 с.

29.Serres M. The Parasite / Translated, with notes, by Lawrence R. Schehr. - Baltimore and London: The Johns Hopkins University Press, 1982. - URL: http://xenopraxis.net/readings/serres_parasite.pdf . [Дата обращения: 02.07.2020]

30. Панов В. И. Экологическая психология, экопсихология развития, экопсихологические взаимодействия // Экопсихологические исследования–2: к 15-летию лаборатории экопсихологии развития: монографический сборник. - Москва: УРАО «Психологический институт»; Санкт-Петербург: Нестор-История, 2011. - с. 9-28.

31. Панов А. В. Типы взаимодействия в условиях интерактивного обучения /А.В. Панов. URL: http://www.mami.ru/science/mami145/scientific/article/s12/s12_30.pdf . [Дата обращения 02.07.2020].

32.Дерябо С. Д. Феномен субъектификации природных объектов: автореферат диссертации доктора психологических наук: 19.00.01 / С. Д. Дерябо; Московский городской психолого-педагогический институт. - Москва, 2002. – 39 с.

Рекомендовано к публикации:
А.А.Ахаян, доктор педагогических наук, научный руководитель работы, член Редакционной Коллегии

Literature

1.Polat E. S. Koncepciya distancionnogo obucheniya na baze komp'yuternyh telekommunikacij v Rossii / dokt. ped. nauk, prof. E. S. Polat, kand. tekhn. nauk A. E. Petrov // Rezhim dostupa: http://www.distant.ioso.ru/library/publication/concept.htm [Data obrashcheniya: 02.07.2020].

2.Korotaeva E. V. O vzaimodejstvii sub"ektov v distancionnoj forme obucheniya // Pedagogicheskoe obrazovanie v Rossii. - 2014. - №3. URL: https://cyberleninka.ru/article/n/o-vzaimodeystvii-subektov-v-distantsionnoy-forme-obucheniya [Data obrashcheniya 02.07.2020].

3.Trunov D. G. Virtual'nyj mir: vred ili pol'za? // Formirovanie gumanitarnoj sredy i vneuchebnaya rabota v vuze, tekhnikume, shkole: materialy V regional'noj nauchno-prakticheskoj konferencii (27 maya 2003 g.). Perm': PGTU, 2003. T. 1. - S. 222-227.

4.Zimnyaya I.A. Pedagogicheskaya psihologiya: uchebnik dlya vuzov / I.A. Zimnyaya. – Izdanie vtoroe, dopolnennoe, ispravlennoe i pererabotannoe. – Moskva: Universitetskaya kniga, Logos, 2009. – 384 s.

5.Ivanov D. V. Virtualizaciya obshchestva. Sankt-Peterburg: "Peterburgskoe Vostokovedenie" - 2000. - 96 s. URL: http://lib.ru/POLITOLOG/ivanov_d_v.txt [Data obrashcheniya 02.07.2020].

6.Howe N. (1991). Generations: The History of America’s Future, 1584 to 2069 / N. Howe, W. Strauss. – New York: William Morrow & Company, 1991. – 538 s.

7.Ahayan A.A. Setevaya lichnost' kak pedagogicheskoe ponyatie: priglashenie k razmyshleniyu // Pis'ma v Emissiya.Offlajn: elektronnyj nauchnyj zhurnal. 2017. №8 (dekabr'). ART 2560. URL: http://emissia.org/offline/2017/2560.htm [Data obrashcheniya 02.07.2020]

8.Firsova E.A. Perspektivy ispol'zovaniya chat-botov v vysshem obrazovanii /E.A. Firsova // Informatizaciya nauki i obrazovaniya, 2018. – №3(35). – S. 157–166.

9.Turing A. M. I.—Computing machinery and intelligence, Mind, Volume LIX, Issue 236, October 1950, Pages 433–460, https://doi.org/10.1093/mind/LIX.236.433.- [Data obrashcheniya 02.07.2020]

11.Carbonell, J.: AI in CAI: An Artificial Intelligence Approach to Computer-Assisted Instruc-tion. IEEE Tr. On Man-Machine Systems 11, 190–202 (1970)

12. A. Dewdney. A potpourri of programmed prose and prosody. Scientific American, 122-TK, June 1989 URL: https://www.jstor.org/stable/24987295?seq=1 . [Data obrashcheniya 02.07.2020]

13.De Angeli A., Carpenter R. Stupid computer! Abuse and social identities.// Proceedings of Abuse: The darker side of Human-Computer Interaction S.19-25. URL: https://www.researchgate.net/profile/Antonella_De_Angeli/
publication/239541336_Stupid_computer_Abuse_and_social_identities/links/
54a6a5f60cf267bdb909db39.pdf#page=19. [Data obrashcheniya: 02.07.2020].

14.Pilato, G., Vassallo, G., Augello, A., Vasile, M., and Gaglio, S. 2005. “Expert Chat-Bots for Cultural Heritage,” Intelligenza Artificiale (2:2), pp. 25–31.

15.Baym N., Shifman L., Persaud C., Wagman K. Intelligent failures: Clippy memes and the limits of digital assistants // AoIR Selected Papers of Internet Research: The 20th Annual Conference of the Association of Internet Researchers, oktyabr' 2019 goda. – Brisben, 2019. URL: https://doi.org/10.5210/spir.v2019i0.10923 . [Data obrashcheniya: 02.07.2020].

16.Garrett M. (2017). Learning and educational applications of chatbot technologies // Australia: Cinglevue. – 2017. – 11 avgusta. URL: https://www.cinglevue.com/learning-educationalapplications-chatbot-technologies/. [Data obrashcheniya: 02.07.2020].

17.Il'in A. N. Antropologiya sub"ekta //Elektronnyj zhurnal Znanie. Ponimanie. Umenie. -2010. -№ 1. -Filosofiya. Politologiya.

18.Men'chikov G. P. Neoklassicheskaya filosofiya: sushchnost', soderzhanie, znachenie // Uchen. zap. Kazan. un-ta. Ser. Gumanit. nauki. - 2013. - №1. URL: https://cyberleninka.ru/article/n/neoklassicheskaya-filosofiya-suschnost-
soderzhanie-znachenie. [Data obrashcheniya: 02.07.2020].

19.Latur B. (2014) Peresborka social'nogo: vvedenie v aktorno-setevuyu teoriyu. M.: Izd. dom Vysshej shkoly ekonomiki.

20.Kodzhaspirova G. M., Kodzhaspirov A. YU. Pedagogicheskij slovar'. M.: Akademiya, 2003. — 176 s.

21.Godnik S. M. Pedagogicheskaya deyatel'nost': paradoksy teorii i praktiki//Vestnik VGU. Voronezh: VGU, 2001. -№ 1. -S. 27-38.

22.Anan'ev B. G. Lichnost', sub"ekt deyatel'nosti, individual'nost'. – Moskva: Direkt-Media, 2008. – 134 s.

23.Dekart R. Sochineniya v dvuh tomah. – Moskva, T. 1. - 1989; T. 2. - 1994.

24.Slastenin V. A. i dr. Pedagogika: Ucheb. posobie dlya stud. vyssh. ped. ucheb. zavedenij / V. A. Slastenin, I. F. Isaev, E. N. SHiyanov; Pod red. V.A. Slastenina. - M.: Izdatel'skij centr "Akademiya", 2002. - 576 s.

25.Kan-Kalik V.A. Pedagogicheskaya deyatel'nost' kak tvorcheskij process. - Groznyj: CHecheno-Ingush. kn. izd-vo, 1976. - 286 s.

26.Rubinshtejn S. L. Problemy obshchej psihologii. - Piter, 2002. – 720s.

27.CHabotarev A. Cifrovye tekhnologii nastoyashchego i budushchego // ZHurnal Aviapanorama. - 2018. URL: https://www.aviapanorama.ru/wp-content/uploads/2018/08/04.pdf . [Data obrashcheniya: 02.07.2020].

28.Kagan M. S. Mir obshcheniya. Problema mezhsub"ektnyh otnoshenij. – M.: Izd-vo politicheskoj literatury, 1988. – 319 s.

30. Panov V. I. Ekologicheskaya psihologiya, ekopsihologiya razvitiya, ekopsihologicheskie vzaimodejstviya // Ekopsihologicheskie issledovaniya–2: k 15-letiyu laboratorii ekopsihologii razvitiya: monograficheskij sbornik. - Moskva: URAO «Psihologicheskij institut»; Sankt-Peterburg: Nestor-Istoriya, 2011. - s. 9-28.

31. Panov A. V. Tipy vzaimodejstviya v usloviyah interaktivnogo obucheniya /A.V. Panov. URL: http://www.mami.ru/science/mami145/scientific/article/s12/s12_30.pdf . [Data obrashcheniya 02.07.2020].

32.Deryabo S. D. Fenomen sub"ektifikacii prirodnyh ob"ektov: avtoreferat dissertacii doktora psihologicheskih nauk: 19.00.01 / S. D. Deryabo; Moskovskij gorodskoj psihologo-pedagogicheskij institut. - Moskva, 2002. – 39 s.