نگرانی دانشمندان از تعصب «چت جی‌پی‌تی»

«چت جی‌پی‌تی»، یک مدل زبانی بزرگ (LLM) از گوگل، در سال 2022 معرفی شد و به سرعت به یکی از محبوب‌ترین مدل‌های زبانی در جهان تبدیل شد. این مدل می‌تواند متن تولید کند، زبان‌ها را ترجمه کند، انواع مختلف محتوای خلاقانه بنویسد و به سؤالات شما به روشی آموزنده پاسخ دهد.

با این حال، برخی از دانشمندان نگران هستند که «چت جی‌پی‌تی» ممکن است حاوی تعصب باشد. این تعصب می‌تواند از داده‌های آموزشی که این مدل بر روی آنها آموزش دیده است ناشی شود. این داده‌ها شامل متن از منابع مختلف، از جمله وب، کتاب‌ها و مقالات علمی است.

یکی از نگرانی‌های اصلی این است که «چت جی‌پی‌تی» ممکن است از زبانی استفاده کند که تبعیض‌آمیز یا توهین‌آمیز باشد. به عنوان مثال، این مدل ممکن است در پاسخ به سؤالاتی در مورد جنسیت یا نژاد، از زبانی استفاده کند که تبعیض‌آمیز تلقی می‌شود.

نگرانی دیگر این است که «چت جی‌پی‌تی» ممکن است اطلاعات نادرست یا گمراه‌کننده تولید کند. به عنوان مثال، این مدل ممکن است در پاسخ به سؤالاتی در مورد موضوعات سیاسی یا اجتماعی، اطلاعات نادرستی تولید کند که می‌تواند به گسترش اطلاعات نادرست کمک کند.

دانشمندان در حال انجام تحقیقاتی برای بررسی تعصب «چت جی‌پی‌تی» هستند. این تحقیقات شامل بررسی متن تولید شده توسط این مدل برای وجود زبان تبعیض‌آمیز یا گمراه‌کننده است.

در برخی از موارد، دانشمندان توانسته‌اند شواهدی از تعصب در «چت جی‌پی‌تی» پیدا کنند. به عنوان مثال، یک مطالعه نشان داد که این مدل در پاسخ به سؤالاتی در مورد جنسیت، تمایل دارد از زبانی استفاده کند که تبعیض‌آمیز تلقی می‌شود.

گوگل از نگرانی‌های دانشمندان آگاه است و اقداماتی برای کاهش تعصب «چت جی‌پی‌تی» انجام داده است. این شرکت از داده‌های آموزشی جدیدتری استفاده کرده است که شامل متن از منابع متنوع‌تری است. گوگل همچنین ابزارهایی را برای شناسایی و اصلاح زبان تبعیض‌آمیز در «چت جی‌پی‌تی» توسعه داده است.

با این حال، دانشمندان معتقدند که گوگل باید اقدامات بیشتری برای کاهش تعصب «چت جی‌پی‌تی» انجام دهد. آنها معتقدند که گوگل باید شفافیت بیشتری در مورد فرآیند آموزش «چت جی‌پی‌تی» ارائه دهد و ابزارهای بیشتری برای شناسایی و اصلاح زبان تبعیض‌آمیز در این مدل ارائه دهد.

در اینجا برخی از اقداماتی که گوگل می‌تواند برای کاهش تعصب «چت جی‌پی‌تی» انجام دهد، آورده شده است:

• از داده‌های آموزشی جدیدتری استفاده کنید که شامل متن از منابع متنوع‌تری است.
• ابزارهای بیشتری برای شناسایی و اصلاح زبان تبعیض‌آمیز در مدل توسعه دهید.
• شفافیت بیشتری در مورد فرآیند آموزش مدل ارائه دهید.
• اطلاعاتی در مورد نحوه استفاده مسئولانه از مدل ارائه دهید.

گوگل باید اقداماتی برای کاهش تعصب «چت جی‌پی‌تی» انجام دهد تا از استفاده نادرست از این مدل برای انتشار اطلاعات نادرست یا گمراه‌کننده جلوگیری کند.

منبع: باشگاه ایده پردازان کوشا

مجتمع نوآوری باز کوشا از علاقمندان و ایده پردازان که طرح یا ایده ای در حوزه نوآوری و فناوری در هر زمینه ای دارند دعوت می کند تا در رویداد ها و مسابقات فناوری و نواوری ما شرکت نمایید.