MLSecOps in Action

From Foundations to Applied Security

پیاده‌سازی الگوریتم‌های یادگیـــری ماشیــــن بصورت امن

دکتـــر محمـــد فزونـــــی

ویژگی‌های دوره

چرا MLSecOps را باید دنبال کرد؟

اگر مدل یادگیری ماشین شما در محیط عملیاتی (مانند سامانه‌های تشخیص تقلب بانکی یا خودروهای خودران) مورد حمله قرار گیرد، یک ضعف امنیتی می‌تواند به خسارت‌های مالی سنگین، افشای اطلاعات کاربران یا حتی تهدید جان انسان‌ها منجر شود. امروزه مهاجمان دیگر فقط به دنبال نفوذ به سرورها نیستند؛ آن‌ها مستقیمن خودِ مدل را هدف قرار می‌دهند؛ از مسموم‌سازی داده‌های آموزشی و فریب مدل گرفته تا سرقت مدل‌های هوش مصنوعی. ام‌ال‌سک‌آپس به شما می‌آموزد چگونه پیش از وقوع این حملات، از مدل‌های خود به‌صورت اصولی محافظت کنید. در پایان این دوره، دیگر تنها یک مدل‌ساز نخواهید بود؛ بلکه به یک مهندس امنیت مدل تبدیل می‌شوید که می‌تواند مدل‌های هوش مصنوعی را با اطمینان در محیط‌های عملیاتی و سازمانی مستقر و ایمن‌سازی کند.

سرفصل‌های دوره

01

Foundations: OS & Containers

✔️ Linux-01: Essential Linux for ML Engineers
✔️ Docker-01
✔️ Docker-02
✔️ Security in Docker (Scanning with Trivy)
✔️ Linux-02: Advanced Topics (iptables)

✔️ What is MLOps? (Theory)
✔️ What is MLSecOps and the best python libs in this realm (Theory)

04

Orchestration: Kubernetes

✔️ K8s-01: Core Concepts
✔️ K8s-02: Deploy ML Components on Minikube (MLFlow on K8s, FastAPI as a deployment)

✔️ K8s-03: Falco for Securing Kubernetes Implementations

03

Streaming Pipelines: Kafka

✔️ Kafka-01: Quick Start
✔️ Kafka-02: Clustering
✔️ Kafka-03: Quix for Python-native Streaming
✔️ Kafka-04: ksqlDB (Process real time data with SQL)
✔️ Kafka-05: Security in Kafka Deployments (ACLs & Encryption)

02

CI/CD & Cloud Basics

✔️ ArvanCloud
✔️ GitHub Actions (Backup to S3 by GitHub Actions)
✔️ Terraform-01: IaC Basics for ML Infra Provisioning
✔️ Terraform-02: Security Best Practices

05

ML Operations

✔️ MLflow-01: Theory and Hello World
✔️ MLflow-02: DVC for Data and Model Versioning
✔️ MLflow-03: MLflow-DVC on Cloud
✔️ FastAPI-01: Model Serving Basics
✔️ FastAPI-02: Securing Endpoints
✔️ MLflow-04: Secure Experiment Tracking
✔️ Jenkins: Traefik-MLflow-DVC-Jenkins on the Cloud

06

MLSec Tools

✔️ Poisoning Attacks

✔️ Model Tampering

✔️ Supply Chain Attacks

✔️ Evasion Attacks

✔️ Privacy-Preserving AI

In this chapter, you will be learning the most important python libs for attack and defense.

07

Capstone Project

✔️ Final-Project: Fraud Detection in FinTech.

Whole Lifecycle of ML Algorithms + Security Audit + Simulate Poisoning + ART Defenses

A Complete MLSecOps Example in which we build an MLSecOps Platform

سناریوی واقعی پروژه پایانی دوره

در پروژه‌ی نهایی این دوره، یک حمله‌ی واقعی مسموم‌سازی داده را روی یک خط‌لوله‌ی عملیاتی یادگیری ماشین بازسازی می‌کنیم.

ابتدا مهاجم با دستکاری داده‌های آموزش، مدل را آلوده می‌کند و باعث کاهش دقت یا ایجاد رفتار مخرب (Backdoor) می‌شود. سپس با استفاده از ابزارهای Adversarial Robustness Toolbox (ART) و سایر مکانیزم‌های امنیتی، حمله را شناسایی، تحلیل و خنثی کرده و مدل را دوباره به یک وضعیت امن بازمی‌گردانیم.

این پروژه به‌صورت کامل روی یک معماری واقعی شامل Docker, FastAPI, MLflow و Jenkins و ابزارهای مانیتورینگ اجرا می‌شود تا دقیقن با شرایط استقرار در محیط‌های عملیاتی آشنا شوید.

در این دوره آموزشی بشما آموزش خواهیم داده که چگونه مدل‌های یادگیری ماشین خود را بطور کاملن استاندارد و امن در محیط عملیاتی سازمان، مستقر نمائید.

درباره مدرس

دکتر محمد فزونی

عضو هئیت علمی دانشگاه گنبدکاووس و دانشیار گروه ریاضی و آمار در این دانشگاه (مشاهده‌ی صفحه‌ی دانشگاهی بنده). از سال 1393 بطور رسمی وارد حرفه‌ی تدریس شدم و تا امروز و با افتخار بیش از هزاران دانشجو را در ایران و خارج از کشور تربیت نمودم. از دوران دبیرستان با کامپیوتر آشنا شدم. سال‌هاست در کنار درس و دانشگاه، پروژه‌های مختلف در حوزه‌های دیتا را اجرا و راهبری نموده‌ام. 

در این دوره چه خواهیم کرد؟

سه ستون اصلی ام‌ال‌سک‌آپس

1- آشنایی با ابزارهایی اساسی

در اولین فاز، ابتدا با ابزارهای اساسی برای ورود به بحث MLOps آشنا خواهیم شد و چند کار عملی با آنها انجام خواهیم داد.

2- کار با ابزارهای MLOps

در دومین مرحله، مهم‌ترین ابزارها و تکنولوژی‌های دنیای MLOps را بشما آموزش خواهیم داد. تمامی موارد را بصورت عملی خواهید دید. از جمله تکنولوژی‌هایی که تسک‌ها را از طریق آنها پیاده‌سازی می‌کنیم؛ DVC, MLFlow, Jenkins هستند.

3- ورود به دنیای امنیت با MLSecOps

در آخرین فاز از دوره، موارد امنیتی مهم در دنیای بکارگیری و دیپلوی مدل‌های یادگیری ماشین را خواهید آموخت. مسیر یادگیری خود را در پایان با پیاده سازی یک پروژه‌ی کامل، به اوج خود می‌رسانیم. تمامی مراحل روی سرورهای واقعی پیاده‌سازی خواهند شد.

هدف این است که در پایان سه ستون اصلی ام‌ال‌سک‌آپس را در ذهن خود نهادینه کنیم و بتوانیم براحتی آنها را در سناریوهای مختلف، اجرا نمائیم.

ثبت‌نام و ورود به دنیای امنیت مدل‌های یادگیری ماشین

بشما کمک خواهیم کرد که در محیط کار متفاوت باشید

کد تخفیف

تخفیف ثبت‌نام

برای شرکت کنندگان در کد هفتم مهندسی داده یک کد تخفیف 30 درصدی صادر خواهد شد. جهت دریافت به تلگرام پشتیبانی پیام دهید.

نظرات دیگران

دانشجویان ماچه می‌گویند؟

به‌نظر من داشتن دانش عمیق خیلی مهمه، اما از اون مهم‌تر توانایی خوب در بیان مطالبه. به عقیده من، دکتر فزونی هر دو ویژگی رو به‌خوبی دارن. دوره‌هایی هم که برگزار می‌کنن بسیار کاربردیه و برای کسانی که قصد ورود جدی به بازار کار تخصصی دارن، می‌تونه واقعاً مفید باشه.

این دوره برای کیست؟

  • اگر مدل ML می‌سازی ولی نمی‌دانی چطور امن دیپلویش کنی.
  • اگر DevOps کار می‌کنی و می‌خواهی وارد دنیای ML بشی.
  • اگر مهندس داده بودی و از پشت صحنه ایستادن خسته شدی.
  • اگر دیتاساینتیست بودی و می‌خوای خودت مدلت رو ببری پروداکشن.
  • اگر دانشجوی هوش مصنوعی بودی ولی فقط تئوری بلدی.
  • اگر در دنیای آی‌تی کار کردی ولی می‌خوای وارد یک شاخه کاملن بروز بشی.
  • ولی اگر هنوز اولین مدل ML را هم نساختی؛ هنوز وقتش نیست.

توجه بفرمائید که ما در این کورس، به هیچ وجه زمانی را برای ساخت مدل ML تخصیص نمی‌دهیم. تنها روی استقرار یک مدل از قبل ساخته شده تمرکز می‌نمائیم. سپس تلاش خواهیم کرد که نقاط ضعف آنرا شناخته و چند حمله را ترتیب دهیم. با شناخت صحیح این موارد به بهترین شیوه می‌توان از سرویس خودمان در دنیای واقعی دفاع نمائیم.

منابــع علمـــی

بر مبنای کتاب خاصی پیش خواهیم رفت؟

در این دوره موارد تئوری را از روی دو کتاب موجود تدریس خواهیم کرد. این دو کتاب در حال حاضر جزو بهترین عناوین در دنیای MLOps و MLSecOps محسوب می‌شوند. دو جلسه از این کورس را به ارائه‌ی مفاهیمی از این دو کتاب تخصیص خواهیم داد. یک دوره آموزشی وقتی می‌تواند در انتقال دانش موفق عمل کند که ترکیبی از مفاهیم تئوری و عملی را داشته باشد.

چه شرکت‌هایی به محتوای ما اعتماد کردند

مشتریان ما

مواردی که شاید هنوز مبهم باشند

ســـوالات متــــدوال

ویدیوهای دوره بروز ضبط خواهند شد و در اختیار شما قرار خواهند گرفت. چون هم افراد شرکت کننده پرمشغله هستند و وقت و زمان کافی برای حضور در کلاس را ندارند و هم چالش‌های متعددی در کلاس آنلاین وجود دارد، از جمله زمان پِرتی بسیار زیاد، بخصوص اگر بخواهیم برخی از موارد غیرقابل پیش‌بینی را دانلود نمائیم.

بله. از طریق نرم‌افزار اسپات‌پلیر دسترسی به تمامی ویدیوها خواهید داشت. برای هر شخص یک لایسنس صادر خواهد شد. در صورتی که لایسنس شما به هر دلیلی از کار بیافتد باید برای دریافت لایسنس دوم مبلغی را پرداخت نمائید. در نتیجه در حفظ و نگهداری کد مربوط به خود نهایت دقت را مبذول فرمائید.

در حالت کلی خیر. بهترین مدرک، مهارت‌هایی است که کسب می‌نمائید. ولی در صورت نیاز و درخواست برای شما مدرک نیز صادر خواهیم نمود.

هیچ کورسی در دنیا (در دنیای تکنولوژی) بعد از اتمام شما را مستقیم به شغل و درآمد نخواهد رساند. تنها تداوم در یادگیری و شرکت در جلسات مصاحبه مسیر را برای شما باز می‌کند. پس درگیر عناوین تبلیغاتی مختلف نشوید. اما مطمئن باشید که این مهارت‌ها بسیار فراگیر بوده و نیاز به آنها در حال حاضر بسیار زیاد است. ولی در این دوره چون عمق مطالب را بیشتر نمودیم، قطعن شما توانمندی‌هایی بسیار خاص را کسب خواهید نمود که ضامن موفقیت در جلسات مصاحبه می‌باشد.

مدرس تمامی موارد را بشما خواهد گفت، اما شما باید سطح مطلوبی از اطلاعات را از دنیای کار با داده‌ها داشته باشید و مبانی کار با الگوریتم‌های یادگیری ماشین را بدانید که بتوانید بهترین نتیجه ممکن از این دوره را بگیرید. در این در خصوص ML بصورت تئوری صحبت نخواهیم کرد. تمرکز روی پیاده‌سازی است.

تمامی آموزش‌ها برای سیستم عامل ویندوز که فراگیرتر است، تهیه می‌شوند. اما شما براحتی می‌توانید دروس را در لینوکس و یا مک نیز پیاده‌سازی نمائید. 

بله. می‌توانید وجه ثبت‌نام را در سه قسط با مقدار برابر (4/500/000 تومان) واریز کنید.

  • توجه بفرمائید در حالتی که شما دوره را بصورت قسطی تهیه بفرمائید، تنها به اندازه میزان پرداختی، دسترسی شما به ویدیوها باز خواهد شد.
  • اگر در موعد مقرر، مبلغ قسط خود را پرداخت ننمائید، مجموعه می‌تواند دسترسی شما را قطع نماید.
  • برای برقراری زودهنگام، می‌توانید با پرداخت زودتر از موعد دسترسی خود را افزایش دهید.

بدانید که آرزوی تیم آموزشی ما این است که بتوانیم شما را در مسیر درست قرار دهیم. پس از موارد مطرح شده برداشت منفی نفرمائید. 

برای هر فرد شرکت کننده در دوره تنها یک لایسنس اسپات پلیر داده خواهد شد.

ممکن است به این دوره‌ها نیز علاقمند باشید

دوره آموزشی (پایتون و مهندسی داده)

مهندسی داده با پایتون و سی.کو.ال.

اگر در حال حاضر هیچ دانشی نسبت به مهندسی داده و عناوین موجود در آن را ندارید، بشما پیشنهاد می‌کنیم که از این دوره که بسیار مقدماتی ولی پرمحتواست، آغاز کنید.

مهندسی داده مقدماتی

مدت تقریبی دوره: 13 ساعت
مدرس: دکتر محمد فزونی
مشاهده توضیحات و خرید دوره

دوره آموزشی مهندسی داده

دوره جامع مهندسی داده (کد هفتم)

در این دوره آموزشی موارد بسیار زیادی اضافه شده است از جمله آپاچی فلینک، زبان برنامه‌نویسی راست، کار با CipherMQ. همچنین بدلیل آپدیت‌های اساسی بسیاری از تکنولوژی‌ها، در این دوره با آخرین نسخه‌ها کار کرده و با تغییرات جدید آشنا خواهیم شد. در حال حاضر این کورس جزو کامل‌ترین‌ها محسوب می‌شود.

مهندسی داده (کد هفتم)

مدت دوره: 85 ساعت
مدرس: دکتر محمد فزونی
مشاهده توضیحات و خرید دوره
ما با بیش از 14 سال سابقه آموزشی موفق، به افراد کمک می‌کنیم که در هر جای دنیا که باشند، از یک آموزش استاندارد و بروز
در زمینه‌های مختلف آکادمیک، از جمله مهندسی داده، علم داده و ام‌ال‌آپس بهره‌مند شوند
ثبت نام کن 😎