Mastering API Management for Generative AI in Azure
Оптимизация и защита моделей LLM с помощью Azure API Management: балансировка нагрузки, аутентификация, семантическое кэширование и конфиденциальность.
Вы научитесь:
Понимать основы генеративного ИИ в управлении API
Внедрять расширенные методы управления API для моделей LLM
Применять лучшие практики для корпоративной интеграции
Повышать безопасность с помощью частных конечных точек
Раскройте весь потенциал больших языковых моделей (LLM), таких как OpenAI, в ваших корпоративных приложениях с помощью нашего комплексного курса.
Этот курс тщательно разработан для разработчиков API, архитекторов облачных решений, специалистов по ИИ, специалистов по ИТ-безопасности и технических менеджеров, которые стремятся интегрировать расширенные возможности ИИ в свои рабочие процессы с помощью Azure API Management.
Мы начнем с общего введения в ключевые функции и возможности генеративного ИИ в экосистеме Azure. Затем мы углубимся в расширенные методы управления API, включая балансировку нагрузки, аутентификацию, семантическое кэширование, ведение журнала, метрики, регулирование токенов, а также шаблоны повторных попыток и прерывателей цепи.
Одной из выдающихся особенностей этого курса является акцент на безопасности. Вы узнаете, как реализовать частные конечные точки для защиты ваших конечных точек API, обеспечивая надежную защиту для ваших корпоративных приложений. Наши практические модули проведут вас через практические реализации, предоставляя вам навыки и уверенность для применения этих методов в реальных сценариях.
К концу этого курса у вас будет четкое понимание того, как оптимизировать и защищать модели LLM с помощью Azure API Management. Вы будете вооружены лучшими практиками для корпоративной интеграции, что позволит вам использовать мощь генеративного ИИ для стимулирования инноваций и повышения эффективности в вашей организации.
Материалы курса:
7 разделов • 23 лекций • Общая продолжительность 2 ч 14 мин
1.Введение
3 лекции 9 мин
2.Подключение API Management к Azure OpenAI
6 лекции 47 мин
3.Балансировка нагрузки для LLM в управлении API
3 лекции 11 мин
4.Политика ограничения токенов в API Management
2 лекции 7 мин
5.Семантическое кэширование для LLM в управлении API
4 лекции 19 мин
6.Функции наблюдения в API Management
3 лекции 32 мин
7.Подключение APIM к службам ИИ за частной конечной точкой
2 лекции 10 мин
Курс на английском языке с русской аудио дорожкой.

[Udemy] Освоение управления API для генеративного искусственного интеллекта в Azure [Houssem Dellai]