Основы искусственного интеллекта

 

Цель работы. Изучить основные риски применения искусственного интеллекта, вопросы информационной безопасности и принципы ответственного использования ИИ-систем.

 

Теоретическая часть

С развитием искусственного интеллекта возрастает его влияние на общество, бизнес и повседневную жизнь. Вместе с преимуществами появляются риски и угрозы, связанные с безопасностью и корректным использованием технологий.

 

Безопасность ИИ

Безопасность ИИ включает защиту данных, моделей и пользователей от:

·                     утечки персональной информации;

·                     кибератак;

·                     подмены данных (data poisoning);

·                     несанкционированного доступа;

·                     ошибок алгоритмов.

 

Основные риски ИИ

1. Риски данных

·                     утечка персональных данных;

·                     использование некачественных данных;

·                     нарушение конфиденциальности.

2. Алгоритмические риски

·                     ошибки моделей;

·                     предвзятость (bias);

·                     неправильные прогнозы.

3. Социальные риски

·                     замещение рабочих мест;

·                     влияние на принятие решений;

·                     манипуляция информацией.

4. Киберриски

·                     атаки на ИИ-модели;

·                     генерация вредоносного контента;

·                     использование ИИ в киберпреступности.

 

Ответственное использование ИИ

Ответственное использование ИИ означает применение технологий с учетом:

·                     безопасности пользователей;

·                     прозрачности алгоритмов;

·                     соблюдения законодательства;

·                     этических норм;

·                     контроля качества данных.

 

Принципы ответственного ИИ:

·                     прозрачность решений;

·                     защита персональных данных;

·                     отсутствие дискриминации;

·                     контроль человека над критическими решениями;

·                     проверка достоверности результатов.

 

План выполнения работы

 

1. Изучение рисков ИИ

Обучающийся должен:

·                     рассмотреть основные виды рисков ИИ;

·                     изучить угрозы для данных, алгоритмов и общества;

·                     привести теоретические примеры.

 

2. Анализ угроз в реальных ИИ-системах

Необходимо выбрать 2–3 примера ИИ-систем и описать возможные риски.

Примеры систем:

·                     чат-боты;

·                     системы распознавания лиц;

·                     рекомендательные системы;

·                     автономные автомобили;

·                     банковские ИИ-системы.

 

Для каждого примера указать:

·                     тип системы;

·                     возможные риски;

·                     потенциальные последствия;

·                     меры защиты.

 

3. Анализ мер безопасности

Обучающийся должен рассмотреть:

·                     методы защиты данных;

·                     фильтрацию и проверку данных;

·                     контроль качества моделей;

·                     мониторинг работы ИИ;

·                     человеческий контроль решений.

 

4. Формирование принципов ответственного использования

Необходимо сформулировать:

·                     как правильно использовать ИИ;

·                     какие ограничения должны быть;

·                     как избежать ошибок и злоупотреблений;

·                     роль человека в управлении ИИ.

 

Пример структуры анализа

Система	Риск	Последствие	Меры защиты
чат-бот	утечка данных	нарушение конфиденциальности	фильтрация данных
автопилот	ошибка распознавания	авария	резервное управление

 

Требования к оформлению результата

Работа должна содержать:

·                     введение;

·                     описание рисков ИИ;

·                     анализ 2–3 систем;

·                     меры безопасности;

·                     выводы и рекомендации.

Допускается использование:

·                     таблиц;

·                     схем;

·                     примеров;

·                     диаграмм рисков.

 

Критерии оценивания

Критерий	Описание	Баллы
Понимание рисков ИИ	Корректное описание угроз	0–40
Анализ систем	Обоснованный разбор примеров	0–30
Меры безопасности	Логичность и полнота предложений	0–20
Оформление работы	Структура и аккуратность	0–10

Максимальный балл: 100

 

Дополнительно (рекомендации для студентов)

Для повышения оценки рекомендуется:

·                     приводить реальные инциденты безопасности ИИ;

·                     сравнивать разные типы рисков;

·                     предлагать собственные меры защиты;

·                     обсуждать роль человека в контроле ИИ;

·                     использовать примеры из новостей и практики.

 

Итог работы

Студент должен уметь:

·                     объяснять основные риски ИИ;

·                     анализировать угрозы безопасности;

·                     предлагать меры защиты;

·                     понимать принципы ответственного использования ИИ-систем.