بعد از این درس چه کاری میتوانی انجام بدهی؟
- مفهوم «معیار» را با مثال ساده توضیح بدهی
- نمونه این درس را مرحلهبهمرحله تغییر بدهی
- یک حالت عادی و یک حالت مرزی را مقایسه کنی
- نتیجه را بدون اصطلاح گنگ برای فرد دیگری توضیح بدهی
امنیت و اخلاق هوش مصنوعی را ساده بفهم
یک سیستم هوش مصنوعی مثل همکار تازهوارد است؛ بدون زمینه، نمونه و معیار موفقیت ممکن است پاسخی روان اما نادرست بدهد.
اصل مهم: در هر تمرین فقط یک مفهوم تازه را تغییر بده؛ چند تغییر همزمان یادگیری و خطایابی را سخت میکند.
چرا مهم است؟ عددی یا قاعدهای برای سنجش کیفیت.
اولین تمرین تو: برای پروژه یک معیار کیفیت، یک معیار سرعت و یک معیار ایمنی بنویس.
از یک مثال کوچک شروع کن
«پاسخ خوب» معیار کافی نیست. باید بدانی درستی، مفیدبودن، زمان پاسخ و هزینه را چگونه میسنجی و چه حدی برای نسخه اول پذیرفتنی است. برای نمونه، در پروژه «ارزیابی ریسک یک چتبات» همین مفهوم را روی یک داده کوچک و قابل مشاهده امتحان میکنیم؛ اول نتیجه را حدس میزنیم و بعد فقط یک بخش را تغییر میدهیم.
۱. مثال را با زبان خودت بگو
پیش از کد یا پرامپت، ورودی، کار و نتیجه را در سه جمله کوتاه بنویس.
۲. کوچکترین نمونه را بساز
فقط یک مفهوم تازه اضافه کن تا رابطه علت و نتیجه گم نشود.
۳. یک حالت متفاوت را امتحان کن
مقدار عادی، مرزی یا نامعتبر را تغییر بده و تفاوت را توضیح بده.
اصل مهم: در هر تمرین فقط یک مفهوم تازه را تغییر بده؛ چند تغییر همزمان یادگیری و خطایابی را سخت میکند.
سه قطعهای که باید بفهمی
معیار
عددی یا قاعدهای برای سنجش کیفیت.
خط مبنا
وضعیت فعلی بدون راهحل تازه.
حد قبول
کمترین کیفیت قابل انتشار.
ساخت «ارزیابی ریسک یک چتبات» با داده معتبر، معیار کیفیت و کنترل انسانی.
برای نمونه، در پروژه «ارزیابی ریسک یک چتبات» همین مفهوم را روی یک داده کوچک و قابل مشاهده امتحان میکنیم؛ اول نتیجه را حدس میزنیم و بعد فقط یک بخش را تغییر میدهیم.
ارزیابی ساختار پرامپت
متن به هیچ سرویس هوش مصنوعی فرستاده نمیشود؛ ساختار نقش، زمینه، محدودیت و قالب خروجی روی همین دستگاه سنجیده میشود.
یک بخش را تغییر بده و دکمه بررسی را بزن.
راهنماییها مرحلهای هستند؛ اول خودت پیام خطا را بخوان.
برای پروژه یک معیار کیفیت، یک معیار سرعت و یک معیار ایمنی بنویس.
این سه اشتباه را انجام نده
کپی نمونه بدون پیشبینی خروجی
افزودن چند مفهوم تازه در یک مرحله
نادیدهگرفتن حالت خالی یا نامعتبر
با 5 سؤال مطمئن شو که مفهوم را گرفتهای
هدف اصلی این درس چیست؟
معیار در این درس چه نقشی دارد؟
بهترین ترتیب تمرین کدام است؟
کدام حالت باید جدا آزمایش شود؟
چه زمانی آماده درس بعدی هستی؟
فهمیدی، تغییر دادی، نتیجه را توضیح دادی؟
فقط در این صورت درس را کامل کن و سراغ مرحله بعد برو.