Вас вітає Інтернет конференція!
Вітаємо на нашому сайті
ТЕОРІЯ «ЧОРНОГО» ЯЩИКУ В НЕЙРОМЕРЕЖАХ
09.12.2022 19:38
[1. Інформаційні системи і технології]
Автор: Соколова Вікторія Костянтинівна, студентка, Харківський національний університет радіоелектроніки, м Харків
Сьогодні, у людей, які розробляють штучний інтелект, все частіше виникають проблеми з поясненням того, як він працює, та розумінням, чому він дає ті результати, які дає. Глибокі нейронні мережі, що імітують роботу нейронних мереж нашого мозку, часто, відбивають як людський інтелект, а й незрозумілість глибин людської свідомості.
Більшість систем штучного інтелекту є класичними моделями «чорного» ящику. Тобто ці системи розглядаються тільки з точки зору того, що у них на вході, і того, що на виході. Розробники просто отримують результати і порівнюють їх з тими, які хотіли б отримати. Вони не намагаються розшифрувати «чорний» ящик або зрозуміти ті непрозорі процеси, які виконує система, допоки займається пошуком результату.
У міру того, як системи штучного інтелекту стають все більш складними, ми дедалі менше здатні їх розуміти. Тому дослідники ШІ і попереджають розробників, щоб вони приділяли більше уваги тому, чому система дає певні результати, та вбудували у свої системи механізми, які допомагають визначити причини тих чи інших рішень усередині «чорного» ящику.
Якщо все, що маємо, – це «чорний» ящик, то неможливо зрозуміти причини збоїв і підвищити безпеку системи. Крім того, якщо звикнемо приймати відповіді ШІ без пояснення причин, тоді не зможемо визначати, якщо ШІ почне давати неправильні відповіді.
Моделі «чорного» ящику можуть бути дуже потужними і швидко видавати те, що потрібно їх розробникам. Саме тому вони використовуються для розробки безпілотних автомобілів, чат-ботів та навіть діагностики захворювань. При цьому деякі завдання вони здатні виконувати краще, ніж люди. Але небезпека полягає в тому, що неможливо зрозуміти, в яких випадках може статися помилка, і навіть визначити, коли вона стане системною.
У багатьох випадках у принципі неможливо створити осмислену нейронну мережу, тому що вхідні дані просто не містять достатньої кількості інформації.
Якщо механізм роботи не важливий, то залежність результатів від вхідних даних, як правило, відома; концепція «чорного» ящика при цьому використовується, щоб не відволікатися на внутрішню будову. Проте такий підхід може дати помилку при використанні пристрою на межі його можливостей.
Модель «чорного» ящику часто виявляється не тільки дуже корисною, але в ряді випадків єдино прийнятною при вивченні систем. Простота моделі «чорного» ящика оманлива. Завжди існує небезпека неповноти складання переліку входів і виходів, як внаслідок того, що важливі з них можуть бути полічені несуттєвими, так і в силу невідомості деяких з них в момент побудови моделі.
Література
1. V Tkachov Cellular Technology Based Overlay Networks for the Secure Control of Intelligent Mobile Objects: Models and Numerical Study/ V Tkachov, A Kovalenko, V Kharchenko, M Hunko // ICTERI 2021: Information and Communication Technologies in Education, Research, and Industrial Applications. – Kherson, Ukraine, October 2, 2021. – Pp. 42-63.
2. V Tkachov Cellular Technology Based Overlay Networks for the Secure Control of Intelligent Mobile Objects/ V Tkachov, A Kovalenko, V Kharchenko, M Hunko // ICTERI 2021: Information and Communication Technologies in Education, Research, and Industrial Applications. – Kherson, Ukraine, October 2, 2021. – Pp. 480-490.
3. M Hunko. Application Architecture For Obtaining Data From Scientometric Databases / M Hunko, V Tkachov, O Liashenko, J Rabčan // 2022 IEEE 3rd KhPI Week on Advanced Technology (KhPIWeek). – Kharkiv, 2022.
4. Tkachov V. Principles of Constructing an Overlay Network Based on Cellular Communication Systems for Secure Control of Intelligent Mobile Objects / Vitalii Tkachov, Andriy Kovalenko, Mykhailo Hunko and Kateryna Hvozdetska // Информационные технологии и безопасность. Материалы XIX Международной научно-практической конференции ИТБ-2020. – К.: ООО "Инжиниринг", 2020. – С. 51-55.
Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License
Знайшли помилку? Виділіть помилковий текст мишкою і натисніть Ctrl + Enter
Інші наукові праці даної секції
-
ЗАСТОСУВАННЯ СУЧАСНИХ АЛГОРИТМІВ ДИНАМІЧНОГО ПОШУКУ В СКЛАДНИХ ІНФОРМАЦІЙНИХ СИСТЕМАХ
29.11.2022 03:05 -
СИСТЕМА ДОМАШНЬОГО АВТОМАТИЗУВАННЯ
29.11.2022 02:54 -
ТЕХНОЛОГІЇ «E-LEARNING» В СУЧАСНІЙ ОСВІТІ
29.11.2022 02:47 -
ВИМОГИ СТВОРЕННЯ SMART КУРСУ ЗМІШАНОГО НАВЧАННЯ
11.12.2022 00:24 -
МЕТОД ВИКОРИСТАННЯ ШАБЛОНУ КУРСУ ЗМІШАНОГО НАВЧАННЯ
11.12.2022 00:16
Конференції
Конференції 2024
Конференції 2023
Конференції 2022
Конференції 2021
