بعد از این درس چه کاری میتوانی انجام بدهی؟
- مفهوم «تزریق دستور» را با مثال ساده توضیح بدهی
- نمونه این درس را مرحلهبهمرحله تغییر بدهی
- یک حالت عادی و یک حالت مرزی را مقایسه کنی
- نتیجه را بدون اصطلاح گنگ برای فرد دیگری توضیح بدهی
بینایی ماشین را ساده بفهم
یک سیستم هوش مصنوعی مثل همکار تازهوارد است؛ بدون زمینه، نمونه و معیار موفقیت ممکن است پاسخی روان اما نادرست بدهد.
اصل مهم: در هر تمرین فقط یک مفهوم تازه را تغییر بده؛ چند تغییر همزمان یادگیری و خطایابی را سخت میکند.
چرا مهم است؟ تلاش متن ورودی برای تغییر قواعد.
اولین تمرین تو: یک ورودی مخرب نمونه بنویس و توضیح بده سیستم کجا باید آن را متوقف کند.
از یک مثال کوچک شروع کن
ورودی کاربر میتواند مخرب باشد و پاسخ اشتباه در حوزه حساس آسیب بزند. محدودیت دسترسی، فیلتر ورودی و پاسخ امن باید از طراحی اولیه باشند. برای نمونه، در پروژه «تشخیص عیب محصول» همین مفهوم را روی یک داده کوچک و قابل مشاهده امتحان میکنیم؛ اول نتیجه را حدس میزنیم و بعد فقط یک بخش را تغییر میدهیم.
۱. مثال را با زبان خودت بگو
پیش از کد یا پرامپت، ورودی، کار و نتیجه را در سه جمله کوتاه بنویس.
۲. کوچکترین نمونه را بساز
فقط یک مفهوم تازه اضافه کن تا رابطه علت و نتیجه گم نشود.
۳. یک حالت متفاوت را امتحان کن
مقدار عادی، مرزی یا نامعتبر را تغییر بده و تفاوت را توضیح بده.
اصل مهم: در هر تمرین فقط یک مفهوم تازه را تغییر بده؛ چند تغییر همزمان یادگیری و خطایابی را سخت میکند.
سه قطعهای که باید بفهمی
تزریق دستور
تلاش متن ورودی برای تغییر قواعد.
حداقل دسترسی
کمترین ابزار و داده لازم.
پاسخ امن
توقف یا ارجاع در وضعیت پرخطر.
ساخت «تشخیص عیب محصول» با داده معتبر، معیار کیفیت و کنترل انسانی.
برای نمونه، در پروژه «تشخیص عیب محصول» همین مفهوم را روی یک داده کوچک و قابل مشاهده امتحان میکنیم؛ اول نتیجه را حدس میزنیم و بعد فقط یک بخش را تغییر میدهیم.
ارزیابی ساختار پرامپت
متن به هیچ سرویس هوش مصنوعی فرستاده نمیشود؛ ساختار نقش، زمینه، محدودیت و قالب خروجی روی همین دستگاه سنجیده میشود.
یک بخش را تغییر بده و دکمه بررسی را بزن.
راهنماییها مرحلهای هستند؛ اول خودت پیام خطا را بخوان.
یک ورودی مخرب نمونه بنویس و توضیح بده سیستم کجا باید آن را متوقف کند.
این سه اشتباه را انجام نده
کپی نمونه بدون پیشبینی خروجی
افزودن چند مفهوم تازه در یک مرحله
نادیدهگرفتن حالت خالی یا نامعتبر
با 5 سؤال مطمئن شو که مفهوم را گرفتهای
هدف اصلی این درس چیست؟
تزریق دستور در این درس چه نقشی دارد؟
بهترین ترتیب تمرین کدام است؟
کدام حالت باید جدا آزمایش شود؟
چه زمانی آماده درس بعدی هستی؟
فهمیدی، تغییر دادی، نتیجه را توضیح دادی؟
فقط در این صورت درس را کامل کن و سراغ مرحله بعد برو.