OpenAI، خالق ChatGPT، امروز یک AI Text Classifier منتشر کرد که ممکن است به شما کمک کند تعیین کنید آیا متنی که می خوانید توسط هوش مصنوعی نوشته شده است یا یک انسان.
اما یک اما وجود دارد.
OpenAI می‌گوید «به‌طور کامل اثربخشی طبقه‌بندی کننده را در تشخیص محتوای نوشته شده با همکاری نویسندگان انسانی ارزیابی نکرده است».
چرا ما اهمیت می دهیم. در حال حاضر انواع مختلفی از آشکارسازهای محتوای هوش مصنوعی وجود دارد. اگر این ابزارها قادر به انجام کار نسبتاً مؤثری برای شناسایی متن تولید شده توسط هوش مصنوعی باشند، می‌توان فرض کرد که موتورهای جستجو می‌توانند. فکر کنید: سیستم محتوای مفید گوگل.
همچنین، اگر در حال انتشار محتوا هستید، ممکن است هوشمندانه باشد که هر محتوای ارسال شده توسط آژانس یا نویسندگان آزاد را از طریق این ابزارها اجرا کنید. ما وارد عصر جدیدی می‌شویم – و شما نمی‌خواهید چیزی را منتشر کنید که به‌طور بالقوه می‌تواند سایت شما را به‌عنوان انتشار محتوای تولید شده خودکار پرچم‌گذاری کند، که برخلاف دستورالعمل‌های Google است. ما قبلاً استفاده از ابزارهایی مانند این را برای همه محتوای ارائه شده در اینجا در سرزمین موتور جستجو شروع کرده ایم.
طبقه‌بندی‌کننده متن هوش مصنوعی چیست؟ OpenAI ابزار جدید خود را “مدل GPT دقیق تنظیم شده که پیش بینی می کند چقدر احتمال دارد که یک قطعه متن توسط هوش مصنوعی از منابع مختلف مانند ChatGPT تولید شده باشد” می نامد.
این محدودیت‌هایی دارد – به ویژه نتایج ممکن است نادرست باشند. OpenAI در درجه اول این ابزار را بر روی محتوای انگلیسی نوشته شده توسط بزرگسالان آموزش داده است، بنابراین کاملاً محتمل است که نتایج مثبت کاذب وجود داشته باشد. همچنین، همانطور که OpenAI اشاره کرد، ویرایش متن تولید شده توسط هوش مصنوعی برای انتقال به عنوان تولید شده توسط انسان آسان است. همانطور که در بخش سوالات متداول آن ذکر شده است:
- “نتایج ممکن است کمک کند، اما نباید تنها مدرکی باشد، در هنگام تصمیم گیری در مورد اینکه آیا یک سند با هوش مصنوعی تولید شده است. این مدل بر روی متن نوشته شده توسط انسان از منابع مختلف آموزش داده شده است، که ممکن است نماینده همه انواع متن های نوشته شده توسط انسان نباشد.
نتایج طبقه بندی کننده پس از اینکه متن خود را در ابزار جای‌گذاری کردید (هوش مصنوعی باز می‌گوید به حداقل 1000 کاراکتر نیاز دارید که تقریباً 150 تا 250 کلمه است) طبقه‌بندی‌کننده متن AI ارزیابی می‌کند که آیا متن با استفاده از هوش مصنوعی تولید شده است یا خیر. یکی از پنج برچسب را خواهید دید:
- بسیار بعید است.
- بعید.
- معلوم نیست که هست یا نه
- احتمالا.
- احتمال دارد.
پس از اینکه در متن این مقاله ای که می خوانید (نوشته شده توسط انسان، قسم می خورم) این نتایج را در اینجا قرار دادم:
و خوشبختانه، طبقه‌بندی‌کننده فکر می‌کرد که «بسیار بعید» است که این مقاله توسط هوش مصنوعی تولید شده باشد.
ابزار را خودتان امتحان کنید. OpenAI AI Text Classifier. رایگان است.
پوشش بیشتر این خبر ابتدا توسط Axios. شما می توانید پوشش بیشتر را در Techmeme.