Материалы занятия:

• Ссылка на запись урока — https://drive.google.com/file/d/136GlF3EgDv9Vp-YgBqzcLTJsv1bx4E77/view?usp=sharing
• Ссылка на доску в миро, где закреплены структура и материалы урока — https://miro.com/app/board/uXjVIluvXVg=/?share_link_id=765977576652
• Анкета обратной связи по уроку — https://forms.gle/c4dgj6RJQocBnTbQ9

📌Guardrails

Guardrails (ограничители) - это правила и механизмы, которые не дают Агенту делать что-то неправильное, опасное или бесполезное

Without Guardrails AIdef is_haiku(value):if not value or len(value.split("\n")) != 3:return "This is not a haiku"return valueresponse = client.chat.completions.create(model='gpt-3.5-turbo',messages=[{"role": "user", "content": "Write a haiku about AI"}],)print(is_haiku(response.choices[0].message.content))## With Guardrails AI@register_validator(name="is-haiku", data_type="string")def is_haiku(value, metadata):if not value or len(value.split("\n")) != 3:return FailResult(error_message="This is not a haiku")return PassResult()response = Guard().use(is_haiku)(model='gpt-3.5-turbo',messages=[{"role": "user", "content": "Write a haiku about AI"}],)print(response.validated_output)

📌Безопасность Ai

Как быстро проверить?

1. Установлены guardrails в промптах и коде
2. Есть логирование и контроль доступа
3. AI не может дискриминировать по личным признакам