بعد از این درس چه کاری میتوانی انجام بدهی؟
- مفهوم «توکن» را با مثال ساده توضیح بدهی
- نمونه این درس را مرحلهبهمرحله تغییر بدهی
- یک حالت عادی و یک حالت مرزی را مقایسه کنی
- نتیجه را بدون اصطلاح گنگ برای فرد دیگری توضیح بدهی
امنیت و اخلاق هوش مصنوعی را ساده بفهم
یک سیستم هوش مصنوعی مثل همکار تازهوارد است؛ بدون زمینه، نمونه و معیار موفقیت ممکن است پاسخی روان اما نادرست بدهد.
اصل مهم: در هر تمرین فقط یک مفهوم تازه را تغییر بده؛ چند تغییر همزمان یادگیری و خطایابی را سخت میکند.
چرا مهم است؟ قطعههای کوچک متن که مدل پردازش میکند.
اولین تمرین تو: یک ادعای مهم پاسخ را جدا کن و منبعی برای راستیآزمایی آن بنویس.
از یک مثال کوچک شروع کن
مدل الگوهای زبان را برای پیشبینی قطعه بعدی بهکار میگیرد. روانبودن پاسخ مدرک درستی نیست و اطلاعات خارج از زمینه ممکن است ناقص یا قدیمی باشد. برای نمونه، در پروژه «ارزیابی ریسک یک چتبات» همین مفهوم را روی یک داده کوچک و قابل مشاهده امتحان میکنیم؛ اول نتیجه را حدس میزنیم و بعد فقط یک بخش را تغییر میدهیم.
۱. مثال را با زبان خودت بگو
پیش از کد یا پرامپت، ورودی، کار و نتیجه را در سه جمله کوتاه بنویس.
۲. کوچکترین نمونه را بساز
فقط یک مفهوم تازه اضافه کن تا رابطه علت و نتیجه گم نشود.
۳. یک حالت متفاوت را امتحان کن
مقدار عادی، مرزی یا نامعتبر را تغییر بده و تفاوت را توضیح بده.
اصل مهم: در هر تمرین فقط یک مفهوم تازه را تغییر بده؛ چند تغییر همزمان یادگیری و خطایابی را سخت میکند.
سه قطعهای که باید بفهمی
توکن
قطعههای کوچک متن که مدل پردازش میکند.
زمینه
اطلاعات در دسترس برای ساخت پاسخ.
احتمال
انتخاب محتمل، نه تضمین حقیقت.
ساخت «ارزیابی ریسک یک چتبات» با داده معتبر، معیار کیفیت و کنترل انسانی.
برای نمونه، در پروژه «ارزیابی ریسک یک چتبات» همین مفهوم را روی یک داده کوچک و قابل مشاهده امتحان میکنیم؛ اول نتیجه را حدس میزنیم و بعد فقط یک بخش را تغییر میدهیم.
ارزیابی ساختار پرامپت
متن به هیچ سرویس هوش مصنوعی فرستاده نمیشود؛ ساختار نقش، زمینه، محدودیت و قالب خروجی روی همین دستگاه سنجیده میشود.
یک بخش را تغییر بده و دکمه بررسی را بزن.
راهنماییها مرحلهای هستند؛ اول خودت پیام خطا را بخوان.
یک ادعای مهم پاسخ را جدا کن و منبعی برای راستیآزمایی آن بنویس.
این سه اشتباه را انجام نده
کپی نمونه بدون پیشبینی خروجی
افزودن چند مفهوم تازه در یک مرحله
نادیدهگرفتن حالت خالی یا نامعتبر
با 5 سؤال مطمئن شو که مفهوم را گرفتهای
هدف اصلی این درس چیست؟
توکن در این درس چه نقشی دارد؟
بهترین ترتیب تمرین کدام است؟
کدام حالت باید جدا آزمایش شود؟
چه زمانی آماده درس بعدی هستی؟
فهمیدی، تغییر دادی، نتیجه را توضیح دادی؟
فقط در این صورت درس را کامل کن و سراغ مرحله بعد برو.