ПРОБЛЕМИ ЕТИКИ ПРИ ВИКОРИСТАННІ ШТУЧНОГО ІНТЕЛЕКТУ В ОСВІТІ - Scientific conference
Main page
UA PL EN

Congratulation from Internet Conference!

Hello

Рік заснування видання - 2011

ПРОБЛЕМИ ЕТИКИ ПРИ ВИКОРИСТАННІ ШТУЧНОГО ІНТЕЛЕКТУ В ОСВІТІ

04.02.2025 00:56

[1. Information systems and technologies]

Author: Шапаренко Олена Володимирівна, кандидат філософських наук, доцент, доцент кафедри іншомовної підготовки, європейської інтеграції та міжнародного співробітництва, Харківський національний університет ім. В. Н. Каразіна



Цифрові технології, зокрема штучний інтелект широко використуються у вищих навчальних закладах України за останнє десятиріччя, що спричинено не тільки технологічними відкриттями у світі, але й довготривалими періодами Covid-19 пандемії, за якою послідувала широкомасштабне вторгнення країни-агрессорки, що унеможливили  традиційне навчання для більшості студентів, які здобувають освіту дистанційно. Втім, перехід на дистанційну освіту і до більш широкого застосування штучного інтелекту актуалізував проблеми етики.

 Актуальність роботи зумовлена явним протиріччям: з одного боку, технології штучного інтелекту є складними за своєю структурою, з іншого боку вони  легко доступні в застосуванні широкому колу користувачів, що «може посилити існуючі типи загроз академічній доброчесності, такі як есе, фабрикація та фальсифікація даних тощо». [9]. 

Проблеми етики у використанні штучного інтелекту входять у коло наукових інтересів як зарубіжних, так і вітчизняних дослідників. Так, Пилипенко Н. М., Губарь О. Г.,   Чирва Г. М.   досліджували етичні аспекти використання штучного інтелекту у навчальних процесах та роботі з даними здобувачів освіти[11]. Паламар С. П., Науменко М. С. зосереджувалися на використанні штучного інтелекту без порушення принципів академічної доброчесності[5]. Дослідники Європейської мережі академічної доброчесності (ENAI) Т. Фолтинек, С. Б’єлобаба, І. Глендіннінг, З. Реза Хан, Р. Сантос, П. Павлетіч та Ю. Кравяр розробили рекомендації освітній спільноті з питань етичного використання технологій штучного інтелекту [9]. 

Мета даної роботи — з’ясувати зміст етичних аспектів використання штучного інтелекту у вищій школі, аналізувати проблеми порушення етики при застосуванні ШІ у вищій школі, окреслити можливі шляхи запобігання таких проблем.

В українських вищих навчальних закладах активно застосовуються такі технології штучного інтелекту як експертні системи, чат-боти, інтелектуальні репетитори, персоналізовані системи навчання,візуалізація та віртуальні навчальні середовища, технології машинного навчання [2]. Ці технології сприяють підвищенню якості освіти, оптимізації навчальних процесів та підтримці здобувачів вищої освіти. 

Етичні аспекти використання штучного інтелекту (ШІ) включають низку питань, пов'язаних з тим, як створюються та використовуються системи ШІ з огляду на суспільні, моральні та правові норми. Вони є результатом узагальнення та систематизації думок багатьох експертів та дослідників, таких як Кеті О'Ніл, Шошана Зубофф, Нік Бостром та включають: 

- конфіденційність (Забезпечення захисту даних та приватності користувачів, зокрема, як збираються, зберігаються та використовуються дані);

- прозорість (Потреба в ясності та зрозумілості того, як працюють алгоритми ШІ, включаючи процеси прийняття рішень);

- відповідальність (Визначення, хто несе відповідальність за наслідки дій або рішень, прийнятих ШІ);

- справедливість (Забезпечення того, щоб системи ШІ не спричиняли дискримінації або упереджень проти певних груп людей);

- академічна доброчесність (Використання ШІ для забезпечення чесності та справедливості в навчальному процесі);

- безпека (Захист систем ШІ від кібератак і зловживань).

Ці аспекти є важливими для забезпечення етичного та відповідального використання ШІ, особливо в таких чутливих сферах, як освіта.

Як зазначено у звіті Виконавчого агентства Європейської освіти та культури Європейської Комісії, для забезпечення відповідального використання в освітніх установах систем і технологій ШІ важливо усвідомлювати баланс, що необхідно досягти між використанням переваг ШІ та оцінкою й уникненням потенційних ризиків, забезпеченням того, щоб гарантувати людський нагляд та зберегти людські цінності [8]. 

В Україні існує відповідна законодавча база для створення такого балансу: освітнє середовище та академічна спільнота керуються єдиними нормами законодавства, кожен учасник освітнього процесу має запобігати проявам академічної нечесності та свідомо дотримуватись принципів, норм, правил, визначених у статті № 42 Закону України «Про освіту». Втім, науковці виокремлюють такі проблеми етики, як порушення конфіденційності та безпеки, недостатній рівень сформованості цифрової компетентності в аспекті штучного інтелекту, фрагментарність навчального й науково-методичного забезпечення впровадження ШІ в освітній процес (рекомендації, методики, моделі тощо) [2].

Красномовними є результати відповідей на запитання, в рамках дослідження науковців Паламар С. П., Науменко М. С.,  чи є застосування технологій штучного інтелекту під час виконання завдань з навчальних дисциплін чи наукових робіт порушенням норм академічної чесності Аналіз результатів опитування щодо даного запитання свідчить, що «більшість респондентів не може відповісти однозначно (45,9 %),  29,7 % не вважають, що застосування технологій ШІ в навчанні порушують принципи академічної доброчесності, 21,6 % відмітили, що вважають це порушенням»[5].

Інші науковці зазначають, що найбільш поширені випадки порушення етичних норм серед студентів — застосування технології ШІ під час виконання завдань навчальних дисциплін чи дослідницьких проєктів; при цьому викладачі не завжди можуть розрізнити, де завдання виконані студентом, а де — за допомогою технології штучного інтелекту[11].

Окрім того,  опрацювання й надання користувачу даних за запитом відбуваються без зазначення джерела, часто при цьому порушуючи авторське право, оскільки технології штучного інтелекту працюють за принципом пошуку загальнодоступної інформації через бази даних пошукових систем. 

Для вирішення таких проблем, Нік Бостром, директор Інституту майбутнього людства в Оксфордському університеті  пропонує потенційні методи, які допомагають контролювати ШІ, зокрема стримування, обмеження можливостей або знань ШІ, звуження операційного контексту (наприклад, до відповідей на запитання) або «сполучення» (діагностичні механізми, які можуть призвести до зупинки. 

На нашу думку, контролювання ШІ недостатньо, потрібно впровадити в Україні загальноприйняту в Європі модель функціонування етичних комітетів. Крім того, здобувачі освіти мають вивчати правила етичного використання ШІ в середній школі, для запобіганя неналежного використання ШІ, що може вважатися академічним порушенням у вищій школі.

Питання безпеки та конфіденційності даних є ще однією ключовою проблемою використання ШІ у навчальних процесах. З впровадженням штучного інтелекту зростає ризик порушення безпеки освітніх систем і неправомірного використання або доступу до особистих даних здобувачів освіти. Існує думка, що комерційні організації та заклади освіти можуть впроваджувати системи, керовані штучним інтелектом, не враховуючи етичні чи інші ризики для здобувачів [3]. 

 Для протидії таким порушенням важливо розробляти та впроваджувати надійні та етичні алгоритми, спрямовані на забезпечення безпеки та захисту приватності користувачів [4], що означає розумний вибір технологій та систем шифрування; регулярну перевірку безпеки; забезпечення обізнаності персоналу щодо принципів захисту даних та конфіденційності [1]. З боку законодавчів органів України імовірно потрібна робота по встановленню та постійному оновленню стандартів і норм поведінки, які гарантують етичне використання штучного інтелекту. На думку Паламар С., Науменко М. інституційна політика «повинна: визначити стандартні правила щодо того, коли та як студентам, викладачам, дослідникам та іншим зацікавленим сторонам освіти дозволено використовувати різні види інструментів ШІ. На рівні курсу має бути місце для спеціальних правил. Політика та правила мають бути чітко доведені до відома всіх зацікавлених сторін»[5].

Висновки. Етичні аспекти використання штучного інтелекту (ШІ) у вищій школі в Україні включають конфіденційність, прозорість, відповідальність, справедливість, академічну доброчесність та безпеку. Доведено, що більшість студентів схильна порушувати етичні норми при використанні ШІ. Для подолання ціх проблем запропоновано впровадити в Україні етичні комітети; починати вивчення правила етичного використання ШІ в середній школі; законодавчім органам України пропонується встановлення та постійне оновлення стандартів і норм поведінки, які гарантують етичне використання штучного інтелекту  студентами та викладачами.

Література

1. Бердо, Р. С., Расюн, В. Л., & Величко, В. А.  Штучний інтелект та його вплив на етичні аспекти наукових досліджень в українських закладах освіти. Академічні візії, 22. 2023. URL: http://dx.doi.org/10.5281/zenodo.8174388 

2. Гриценчук O. Використання штучного інтелекту в освіті: тенденції та перспективи в Україні та за кордоном. Вісник кафедри ЮНЕСКО «Неперервна професійна освіта ХХІ століття» Випуск 10. 2024. URL: https://www.semanticscholar.org/paper/ВИКОРИСТАННЯ-ШТУЧНОГО-ІНТЕЛЕКТУ-В-ОСВІТІ%3A-ТЕНДЕНЦІЇ-Гриценчук/4c39405c8a94c95b4159acb641b97987a02632b0#:~:text=В%20оглядовій%

20статті%20проаналізовано%20проблему%20використання%20систем%20штучного,

практику%20застосування%20систем%20штучного%20інтелекту%20учасниками%20

освітнього%20процесу.

3. Матусевич, Т. В.  Технології штучного інтелекту в освіті для відповідального громадянства: концептуальні перспективи та етичні перестороги. Концептуальні, методологічні та практичні проблеми соціальної філософії, філософії освіти та освітньої політики  Український державний університет імені Михайла Драгоманова. 2023. C. 41-45. URL: https://enpuir.npu.edu.ua/bitstream/handle/123456789/42008/Matusevych.pdf?sequence=1 

4. Мельник, А. В. Застосування штучного інтелекту в освітньому середовищі: потенціал та виклики. Розвиток педагогічної майстерності майбутнього педагога в умовах освітніх трансформацій.  Глухівський НПУ ім. О. Довженка. 2023.  C. 250-253. URL: http://eprints.zu.edu.ua/37171/1/ЗАСТОСУВАННЯ%20ШТУЧНОГО%20ІНТЕЛЕКТУ%20В%20ОСВІТ НЬОМУ.pdf 

5. Науменко М., Паламар С. Штучний інтелект в освіті: використання без порушення принципів академічної чесності. Освітологічний дискурс. Київський столичний університет імені Бориса Грінченка. № 1(44). 2024. URL: https://elibrary.kubg.edu.ua/id/eprint/48609/1/Palamar_S_P_Naumenko_M_S_OD_2024.

pdf?form=MG0AV3

6. Bostrom N.  Superintelligence. Oxford University Press. 2016. P. 98–111. ISBN 978-0-19-873983-8. OCLC 943145542.   

7. Bostrom, Nick. What happens when our computers get smarter than we are?. TED.  March 2015. URL: https://en.wikipedia.org/wiki/TED_(conference)

8. European Commission, European Education and Culture Executive Agency.  AI report: By the European Digital Education Hub’s Squad on artificial intelligence in education. Publications Office of the European Union. 2023. URL: https://data.europa.eu/doi/10.2797/828281 

9. Foltynek T., Bjelobaba S., Glendinning I.  ENAI Recommendations on the ethical use of Artificial Intelligence in Education. International Journal for Educational Integrity № 19 (12). 2023.  URL: https://edintegrity.biomedcentral.com/articles/10.1007/s40979-023-00133-4#citeas DOI: https://doi.org/10.1007/s40979-023-00133-4 

10. O'Neil C.Weapons of Math Destruction.Crown Publishing Group United States. 272 p. ISBN:978-0-553-41881-1

11. Pylypenko, N., Hubar, O., & Chyrva, H.  Ethical aspects of the use of artificial intelligence in educational processes and work with the data of education seekers. Global Innovations and Collaborative Solutions in Contemporary Science. 2023. P. 139-142. Futurity Research Publishing. URL: https://futuritypublishing.com/international_conference_3 

12. Shoshana Zuboff. The age of surveillance capitalism : the fight for a human future at the new frontier of power. New York : PublicAffairs.  2019. 691 p.



Creative Commons Attribution Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License
допомога Знайшли помилку? Виділіть помилковий текст мишкою і натисніть Ctrl + Enter

Another articles in this section

Сonferences

Conference 2025

Conference 2024

Conference 2023

Conference 2022

Conference 2021



Міжнародна інтернет-конференція з економіки, інформаційних систем і технологій, психології та педагогіки

Наукова спільнота - інтернет конференції

:: LEX-LINE :: Юридична лінія

Інформаційне суспільство: технологічні, економічні та технічні аспекти становлення