Виникнення генеративного штучного інтелекту й стрімке поширення його застосування призвело до появи чималої кількості запитань, занепокоєнь та викликів. Постають питання етичності та прозорості використання ШІ, достовірності й упередженості, допустимих меж застосування та багато інших.
Сьогодні в багатьох країнах з’являється законодавство, покликане регулювати використання штучного інтелекту, зокрема в березні 2024 року в Європейському Союзі було прийнято AI Act, покликаний дати відповіді на більшість із таких питань.
Обговоренню цих викликів, а також можливим стратегіям регулювання застосування ШІ як в Україні, так і в світі було присвячено круглий стіл «In AI We Trust. Чи можна довіряти штучному інтелекту?», організований у межах виконання проєкту Erasmus+ напряму Жан Моне модуль «Надійний штучний інтелект: європейський підхід» (Trustworthy artificial intelligence: the European approach, № 101085626 – TrustAI – ERASMUS-JMO-2022-HEI-TCH-RSCH) за підтримки Європейської Комісії.
До роботи круглого столу долучилося понад 50 учасників: представники ІТ-компаній, що займаються розробками з використанням штучного інтелекту, юристи, науковці, медики, представники державних органів влади, аспіранти і студенти.
Роботу круглого столу розпочала координаторка проєкту TrustAI, к.т.н., доцентка кафедри автоматизованих систем управління Інституту комп’ютерних наук та інформаційних технологій Львівської політехніки Анастасія Дорошенко із презентацією на тему «Надійний ШІ: від принципів до практики», яка розповіла про основні вимоги, які висувають сьогодні до систем ШІ з погляду прозорості, надійності, етичності та законності для того, щоб такі системи були неупередженими й заслуговували на довіру під час використання.
Про основні тенденції регулювання штучного інтелекту в Україні розповіла аналітикиня Центру Дністрянського Дарина Бойко. Зокрема, надзвичайно цікавим та корисним для аудиторії стало порівняння можливих підходів, які можуть бути в основі сьогоднішнього українського регулювання:
- Bottom-up, який передбачає використання інструментів «саморегуляції» галузі ШІ;
- Top-down – із дотриманням традиційного законодавчого регулювання галузі ШІ (як, наприклад, AI Act у ЄС);
- Middle out – із використанням інструментів співрегулювання між державними органами та головними стейкхолдерами галузі.
Про основи забезпечення довіри до систем ШІ з технічного погляду розповіла Lead Data Scientist у фінтех-компанії та консультантка з Data Science / Artificial Intelligence Ольга Нарушинська. У своїй доповіді «Основи (не)довіри до AI» вона зупинилась на трьох основних компонентах, грамотний вибір кожного з яких сприяє довіри до систем, що використовують ШІ: це дані, моделі та метрики. Було розглянуто основні проблеми, які можуть виникати із даними, що може призвести до упередженості в роботі системи, проілюстровано такі випадки на реальних прикладах, здійснено огляд моделей та метрик, які доцільно використовувати для отримання достовірних результатів.
Надзвичайно цікавим був виступ к.ю н, доцента кафедри політології та міжнародних відносин Інституту гуманітарних та соціальних наук Львівської політехніки Петра Сухорольського на тему «Регулювання ШІ: проблеми і суперечності», під час якого не лише було розглянуто різні типи регуляцій штучного інтелекту, що можуть бути застосовані, але й висвітлено основні відмінності між сильним та слабким ШІ, оцінено ймовірність появи сильного ШІ, а також здійснено огляд найсвіжіших світових досліджень, що демонструють виклики та загрози, які з’являються сьогодні у зв’язку з поширенням використання систем ШІ.
Технічну сторону підвищення довіри до систем, що використовують машинне навчання, продемонстрував к.т.н., доцент кафедри систем штучного інтелекту Інституту комп’ютерних наук та інформаційних технологій Львівської політехніки Іван Ізонін у своєму виступі на тему «Інтерпретоване ансамблеве навчання: каскадні методи». Він розповів про переваги використання нейроподібної структури моделі послідовних геометричних перетворень (МПГП), запропонованої професором Романом Ткаченком, окреслив переваги її застосування порівняно з іншими відомими моделями, а також докладно розповів про варіанти покращення цієї моделі як щодо точності результатів, так і швидкості роботи завдяки створенню каскадного ансамблю на базі МПГП.
Про один із найпопулярніших підходів з погляду підвищення довіри до систем штучного інтелекту, а саме використання пояснюваного ШІ, розповіла Наталія Шаховська, д.т.н., професорка, завідувачка кафедри СШІ Національного університету «Львівська політехніка», членкиня експертно-консультаційного комітету з питань розвитку сфери штучного інтелекту в Україні при Міністерстві цифрової трансформації, у своєму виступі «Моделі пояснювального штучного інтелекту для аналізу великих даних». Зокрема, було детально розглянуто розв’язання задач, що базуються як на роботі з текстовими даними, так і на аналізі зображень та відео. Однак спільною рисою всіх розглянутих прикладів було те, що серед можливих моделей, які можна застосовувати для розв’язання поставлених завдань, перевагу надавали тим, у яких є можливість пояснити, чому було прийняте саме таке рішення. Цей підхід відповідає основним вимогам, що сформульовані сьогодні в AI Act та інших регулятивних документах щодо застосування методів ШІ.
Завідувач кафедри автоматизованих систем управління Інституту комп’ютерних наук та інформаційних технологій Львівської політехніки, д.т.н., професор Василь Теслюк у своєму виступі «Штучний інтелект в розумному місті: виклики та перспективи» розповів про те, з якими основними викликами може бути пов’язане використання методів ШІ в розумних будинках, містах і системах загалом. Професор Теслюк підкреслив необхідність забезпечення балансу між використанням сучасних інтелектуалізованих компонентів у розроблюваних системах та забезпеченням основоположних прав і свобод громадян, які використовуватимуть ці системи.
Робота круглого столу завершилась обговоренням почутого, учасники мали можливість обмінятись думками щодо перспектив розвитку штучного інтелекту в Україні та світі, а також власним баченням щодо того, як буде відрегульовано питання використання методів ШІ в різних системах. Зустріч, що об’єднала фахівців із дуже різних галузей знань та сфер діяльності, наукових інтересів надала чудову можливість подивитись на знайомі питання та проблеми з різних точок зору, що, своєю чергою, безперечно може стати гарною рушійною силою для майбутніх досліджень.
