Галюцинування, пісочниця й отруєння даних – створили словник термінів зі сфери ШІ

В Україні створили перший узагальнений словник термінів у сфері штучного інтелекту. Про це повідомили у Міністерстві цифрової трансформації.

До словника увійшло 106 найпопулярніших слів та словосполучень на тему ШІ — юридична та технічна термінологія. Окрім того, кожен термін має англійський відповідник, визначення та добірку повʼязаних термінів.

Слова та словосполучення, що стосуються інших галузей, у словнику подали лише в контексті штучного інтелекту. Для тих термінів, які не мають питомого українського відповідника, використали синоніми, усталені терміни або транслітерацію.

«Зібрана термінологія стане базою для якісного формування законодавства у сфері штучного інтелекту, а також допоможе профільним фахівцям, науковцям, медіа та громадянам говорити про технологію однією мовою», — зазначають у Мінцифрі.

Серед термінів:

• агент — автономна сутність, яка аналізує своє середовище та вживає заходів для досягнення своїх цілей;

• ембединги — векторні представлення слів, фраз, документів чи інших об’єктів у багатовимірному просторі;

• відкритість до втручання — властивість системи ШІ, що надає можливість суб’єктам даних здійснювати нагляд, керувати та контролювати, як і ким обробляються їхні дані;

• справедливість — принцип відповідального ШІ, що полягає в мінімізації упереджень та дискримінації ШІ щодо певних груп людей або характеристик;

• отруєння даних — тип атаки, за якої тренувальні дані змінюють з метою негативного впливу на модель машинного навчання, змушуючи її вивчати те, чого вона не повинна вивчати;

• пояснюваність — властивість системи ШІ доступно пояснювати свої дії, рішення, рекомендації, результати або спосіб прийняття рішень;

• галюцинування — феномен, за якого результат роботи системи генеративного ШІ містить неточну або хибну
  інформацію, що оманливо представлена як достовірна;

• пісочниця — контрольоване ізольоване середовище для всіх етапів життєвого циклу систем ШІ, компʼютерних програм або інших інформаційних систем без ризику для основної системи;

• скрейпінг — процес автоматизованого збору даних з Інтернету за допомогою комп’ютерних програм. У разі автоматизованого збору даних з вебсайтів називається вебскрейпінг;

• метадані — дані, які описують інші дані.

Створенням словника займалось 13 фахівців, а саме: український дослідник, розробник системи розпізнавання образів на основі нейронних мереж Дмитро Мішкін, експертка Експертного комітету з питань штучного інтелекту Олена Андрієнко, засновник школи IT професіоналів «ProfIT» Дмитро Чумаченко, співзасновник соціального стартапу ДонорUA та автор книжки «Як генеративний ШІ змінює світ» Олександр Краковецький, менеджер напрямку штучного інтелекту Олег Дубно, головна спеціалістка експертної групи з розвитку новітніх технологій та цифрових інновацій Діана Хрущова та інші спеціалісти зі сфери технологій.

Для створення словника робоча група визначила критерії відбору термінів — роль у ризикоорієнтованому підході України до ШІ, поширеність у технічній літературі й професійній спільноті та важливість для розуміння ШІ. Окрім того, встановила загальні межі дослідження і першоджерела інформації, які використовували для перекладу або адаптації.

Фінансову підтримку надала низка організацій: проєкти «Підтримка цифрової трансформації», «Європейський підхід до етичної, правової та соціально-економічної політики в галузі штучного інтелекту» та «Альянс з навичок зі штучного інтелекту», Агентство США з міжнародного розвитку, фонд «Східна Європа» та програма допомоги з міжнародного розвитку від Уряду Великої Британії.

У Мінцифрі зазначили, що словник не є вичерпним та всеохопним, тому запросили українців ділитись своїми пропозиціями щодо термінів, які варто додати. 

Повний список термінів можна переглянути за посиланням.

Як повідомлялось, Лабораторія цифрової безпеки виклала у відкритий доступ посібник про використання систем штучного інтелекту (ШІ) відповідно до прав людини.

Читайте далі: Авторське право та ШІ: хто власник і як захистити творчість

Чільне зображення: Freepik