AI Security Masterclass: Prompt Injection & LLM Security

أهلا بك عزيزي المتابع لموقع (journey for learn) نقدم دورات بكوبونات متاحة لاول 1000 تسجيل مجاني فقط وكوبونات اخري لفترة محدودة فاذا كنت تريد ان تحصل علي كل الكورسات علي موقعنا وان تكون اول المسجلين في الكورسات المجانية قم بتسجيل الدخول أوقم بالدخول علي وسائل التواصل الاجتماعي وخصوصا التليجرام نوضح الوصف المختصر والطويل للدورات لكي تعرف الدروس التي سوف تتعلمها بسهولة ويسر :

أنشئ تطبيقات ذكاء اصطناعي ليست قوية فحسب، بل آمنة أيضًا من حيث التصميم. في هذه الدورة التدريبية العملية لأمن الذكاء الاصطناعي، ستتعلم كيفية إنشاء التطبيقات الحديثة التي تدعمها نماذج اللغات الكبيرة (LLMs) ومهاجمتها وتأمينها. باستخدام Python وOllama، ستنشئ مساعدًا كاملاً للذكاء الاصطناعي وتضيف تدريجيًا الدردشة وتوليد الاسترجاع المعزز (RAG) واستدعاء الأدوات والذاكرة الدائمة والوكلاء المستقلين وعناصر التحكم في أمان الإنتاج. ستبدأ ببناء مساعد دردشة محلي يعمل بالذكاء الاصطناعي واستكشاف سبب اختلاف أمان LLM عن أمان التطبيقات التقليدية. ستشن بعد ذلك هجمات حقن سريعة واقعية، وتحاول كشف التعليمات المخفية، واختبار لعب الأدوار وكسر الحماية متعدد المنعطفات، وتجربة تقنيات المعالجة السريعة المشفرة. وبعد ذلك، ستنشئ تطبيق RAG قائمًا على المستندات وقادرًا على الإجابة على الأسئلة من ملفات PDF. سترى كيف يمكن للمستندات الضارة أن تقدم حقنًا سريعًا غير مباشر، وتسمم السياق المسترجع، وتتلاعب بالإجابات، وتقوض المعرفة الموثوقة. ستقوم بتأمين خط أنابيب RAG باستخدام التحقق من صحة المصدر، وعزل السياق، والتطهير، وضوابط التنفيذ. ثم تنتقل الدورة إلى ما هو أبعد من استجابات chatbot إلى إجراءات التطبيق الحقيقية. ستقوم بإنشاء مساعد الذكاء الاصطناعي لاستدعاء الأدوات باستخدام أدوات الطقس والآلة الحاسبة والبريد الإلكتروني. ستختبر إدخال المعلمات والتنفيذ غير المصرح به للأداة قبل تنفيذ التحقق من صحة الإدخال، والأذونات ذات الامتيازات الأقل، وقيود الوجهة، وموافقة الإنسان في الحلقة على الإجراءات الحساسة. ستضيف أيضًا ذاكرة ذكاء اصطناعي ثابتة وتتعلم كيف يمكن للمهاجمين تسميم المعلومات المخزنة لمعالجة المحادثات المستقبلية. ستحمي الذاكرة باستخدام التحقق من الصحة، وسير عمل الموافقة، وتسجيل المخاطر، وسياسات التخزين الآمن. وعندما يصبح المساعد أكثر استقلالية، ستقوم ببناء وكيل ذكاء اصطناعي قادر على تخطيط المهام، واختيار الأدوات، وتنفيذ مهام سير عمل متعددة الخطوات. ستحاول بعد ذلك التنازل عن قراراتها وتأمينها من خلال الأذونات وإنفاذ السياسات وبوابات الموافقة والتنفيذ المقيد. وبحلول نهاية الدورة التدريبية، ستدمج كل دفاع في بوابة أمان الذكاء الاصطناعي القابلة لإعادة الاستخدام والتي تتضمن:

• الكشف الفوري عن الحقن
• تصفية كسر الحماية وتسجيل المخاطر
• أمان RAG وتعقيم السياق
• ترخيص الأداة والتحقق من صحة المعلمات
• تسمم الذاكرة الحماية
• ضوابط أمان الوكيل
• سير عمل الموافقة البشرية
• التحقق من صحة المخرجات وتسجيل التدقيق

أخيرًا، ستقوم بحزم وتشغيل مساعد الذكاء الاصطناعي الآمن الكامل باستخدام Docker وتوصيله بالنماذج المحلية من خلال Olma. هذه الدورة مثالية لمطوري Python، ومهندسي الذكاء الاصطناعي التوليدي، ومطوري RAG، ومنشئي وكلاء الذكاء الاصطناعي، ومهندسي البرمجيات، والمهنيين التقنيين الذين يريدون خبرة عملية في تأمين تطبيقات LLM الحقيقية. ولن تدرس هجمات الذكاء الاصطناعي فحسب. ستقوم ببناء ميزات ضعيفة واستغلالها وتنفيذ الدفاعات والتحقق من عمل تلك الدفاعات. قم ببنائها. مهاجمته. تأمينه.

ما هي المتطلبات الأساسية لدخول الدورة والتسجيل فيها على موقعنا؟ رحلة التعلم:

(احصل على الدورة للدخول إلى الموقع والتسجيل)

يجب أن يكون لديك بريد إلكتروني (حساب بريد) تتذكره لنفسك وأيضًا يجب أن تتذكر كلمة مرور البريد الإلكتروني الذي ستسجل به ، وإذا لم يكن لديك حساب بريد إلكتروني ، فمن الأفضل إنشاء حساب (Gmail)