Безпечне використання систем штучного інтелекту (ШІ) у роботі

Сучасні генеративні інструменти ШІ (ChatGPT, Gemini, Midjourney та інші) стали невід’ємною частиною робочого процесу, пропонуючи величезні можливості для економії часу та автоматизації завдань. Проте, разом із можливостями зростають і критичні ризики для інформаційної безпеки.

Основні тези та ключові моменти, висвітлені на лекції:

1. Природа ШІ та його обмеження:
   • Штучний інтелект — це не досконалий інтелект, а лише математичний алгоритм, навчений знаходити статистичні закономірності у величезних масивах даних.
   • ШІ може “галюціонувати” або видавати переконливі, але хибні результати, тому обов’язкова перевірка згенерованої інформації є критично важливою.
2. Головне правило безпеки: Що не можна передавати ШІ?
   • Конфіденційні дані компанії: Не можна вводити інформацію про внутрішню інфраструктуру, фінансові показники, стратегії чи корпоративні таємниці. Ці дані можуть стати частиною знань моделі або бути скомпрометовані.
   • Персональні дані: Передача особистих даних співробітників, клієнтів чи партнерів порушує законодавство (як-от GDPR або Закон України про захист персональних даних) та створює ризик таргетованих фішингових атак
   • Внутрішні документи: Службові листи, технічні інструкції, плани проєктів можуть містити чутливі ідентифікатори систем, які можуть бути використані для побудови карти інфраструктури компанії.
3. Практичні рекомендації для безпечної роботи:
   • Анонімізація запитів: Перед введенням інформації запитайте себе: “Чи можна це показати назовні?” Якщо ні — змініть або узагальніть дані.
   • Перевірка відповідей: Використовуйте офіційні джерела та задавайте ШІ уточнюючі питання про джерело інформації (так звана “перевірка в процесі”), щоб підтвердити достовірність даних.
   • Людський контроль: Для важливих рішень завжди має бути людина, відповідальна за валідацію результату, наданого ШІ.
4. Ризики та загрози:
   • Prompt Injection: Спроби обійти обмеження моделі, щоб змусити її згенерувати заборонений контент.
   • Авторське право: Контент, згенерований ШІ, може містити елементи, захищені авторським правом, тому необхідно перевіряти унікальність для публічного використання.