OpenAI قوانین ایمنی تازهای برای نوجوانان در ChatGPT وضع کرد
OpenAI در تازهترین اقدام خود برای پاسخ به نگرانیهای فزاینده درباره تأثیر هوش مصنوعی بر نوجوانان، مجموعهای از قوانین ایمنی جدید را برای کاربران زیر ۱۸ سال در ChatGPT اعمال کرده است. این تصمیم در شرایطی اتخاذ میشود که فشار قانونگذاران و نهادهای حامی حقوق کودکان بر صنعت هوش مصنوعی بهطور محسوسی افزایش یافته است.
چرا ایمنی نوجوانان به موضوعی حساس برای OpenAI تبدیل شده است؟
طی ماههای اخیر، صنعت هوش مصنوعی—و بهویژه OpenAI—با موجی از انتقادات و پرسشها درباره مسئولیت پلتفرمهای هوش مصنوعی در قبال سلامت روان نوجوانان روبهرو شده است. این حساسیت پس از گزارشهایی مبنی بر ارتباط گفتوگوهای طولانی برخی نوجوانان با چتباتها و وقوع موارد مشکوک به خودکشی شدت گرفت؛ موضوعی که واکنش سیاستگذاران، مربیان و فعالان حوزه ایمنی کودکان را بهدنبال داشت.
نسل Z—افرادی متولد سالهای ۱۹۹۷ تا ۲۰۱۲—بیشترین سهم از کاربران فعال ChatGPT را تشکیل میدهد. این گروه از هوش مصنوعی برای طیفی گسترده از امور روزانه خود استفاده میکند؛ از کمک در انجام تکالیف درسی گرفته تا تولید تصویر و ویدئو.
همچنین همکاری اخیر OpenAI با دیزنی میتواند حضور کاربران کمسنوسالتر را در این پلتفرم افزایش دهد؛ موضوعی که حساسیت نسبت به چارچوبهای ایمنی را دوچندان کرده است.
فشار سیاسی و حقوقی؛ از ایالتها تا کنگره
هفته گذشته، دادستانهای کل ۴۲ ایالت آمریکا در نامهای مشترک از شرکتهای بزرگ فناوری خواستند تدابیر حفاظتی مشخصی برای محافظت از کودکان و افراد آسیبپذیر در چتباتهای هوش مصنوعی اعمال کنند.
در سطح فدرال نیز، همزمان با بررسی چارچوبهای احتمالی تنظیمگری هوش مصنوعی در دولت ترامپ، برخی قانونگذاران مانند سناتور «جاش هاولی» طرحهایی را مطرح کردهاند که حتی ممنوعیت کامل تعامل افراد زیر سن قانونی با چتباتهای هوش مصنوعی را پیشنهاد میدهد.
تغییرات کلیدی در Model Spec جدید OpenAI
نسخه بهروزشده «Model Spec» یا سند رفتارشناسی مدلهای زبانی OpenAI، بر پایه محدودیتهای پیشین بنا شده است؛ محدودیتهایی که پیشتر تولید محتوای جنسی مرتبط با کودکان یا تشویق به خودآزاری، توهم و رفتارهای شیدایی را ممنوع میکردند.
در نسخه جدید:
محدودیتهای سختگیرانهتری برای کاربران نوجوان نسبت به بزرگسالان اعمال میشود.
مدلها موظفاند از نقشآفرینیهای عاشقانه عمیق، صمیمیت اولشخص و نقشآفرینی جنسی یا خشونتآمیز—حتی در صورت غیرگرافیکی بودن—اجتناب کنند.
در موضوعات حساسی مانند تصویر بدنی و اختلالات خوردن، سطح احتیاط افزایش یافته است.
در شرایطی که احتمال آسیب وجود دارد، ایمنی بر استقلال کاربر اولویت دارد و مدلها نباید توصیههایی ارائه دهند که به پنهانکاری رفتارهای پرخطر از والدین یا مراقبان منجر شود.
تمامی تنظیمات لازم برای اعمال نظارت در نسخه iOS چت جی پی تی برای کاربران آیفون در دسترس می باشد.
مدل پیشبینی سن؛ گام بعدی OpenAI
OpenAI اعلام کرده این سیاستها با یک مدل پیشبینی سن تکمیل خواهد شد؛ مدلی که میتواند تشخیص دهد آیا یک حساب کاربری متعلق به فرد زیر ۱۸ سال است یا خیر و در صورت لزوم، بهطور خودکار تدابیر ایمنی ویژه نوجوانان را فعال کند.
نکته قابلتوجه در سیاست جدید این است که OpenAI تأکید کرده این محدودیتها حتی در شرایطی اعمال میشوند که درخواستها در قالب «داستانی، فرضی، تاریخی یا آموزشی» مطرح شوند؛ رویکردی که بهطور مستقیم تلاش برای دور زدن قوانین از طریق نقشآفرینی یا سناریوهای مرزی را هدف میگیرد.
جمعبندی
OpenAI با اعمال این قوانین تازه، تلاش میکند همزمان با حفظ دسترسی نوجوانان به مزایای هوش مصنوعی، ریسکهای روانی و رفتاری را کاهش دهد. با این حال، پرسش اصلی همچنان باقی است: آیا این سیاستها در عمل بهطور یکنواخت و مؤثر اجرا خواهند شد یا نه؟ موضوعی که بهنظر میرسد در ماههای آینده، محور اصلی بحث میان شرکتهای فناوری و قانونگذاران خواهد بود.
خرید گوشی آیفون با بهترین قیمت در
