ChatGPT
Published:
برای ترجمه سریع نام بعضی از اهداف غیرنظامی هدف گرفته شده در جنگ، تصویر فهرستی از آنها را به چتجیپیتی (نسخه رایگان) دادم و معادل انگلیسی آنها را گرفتم، اما در ترجمه متوجه شدم که «اورژانس» به «پایگاه پدافند هوایی» (air defense base) ترجمه شده است. از خود چتجیپیتی علت را پرسیدم و او علت را تفسیر اشتباه دانست و ترجمه را اصلاح کرد. اما وقتی همین کار را چند بار دیگر در سشنهای مختلف انجام دادم، نتیجه همان بود: «اورژانس» دوباره به «پایگاه پدافند هوایی» ترجمه میشد.
بهعنوان کسی که در زمینه AI کار میکنم، نمیتوانم این مساله را صرفا یک خطای تکنیکی بدانم. این میتواند نمونهای دیگر از همان سوءگیریها در سیستمهای AI باشد که پیشتر در قالبهایی مانند سوءگیریهای جنسیتی یا نژادی خود را نشان داده و اینبار به شکلی دیگر بروز کرده است. گفته شده که در این جنگ از سیستمهای AI استفاده شده است، و دقیقا در چنین موقعیتهاییست که چنین سوگیریهایی میتوانند به تحریف واقعیت و در نهایت به فاجعههای انسانی دامن بزنند.
بهعنوان کسی که در زمینه AI کار میکنم، نمیتوانم این مساله را صرفا یک خطای تکنیکی بدانم. این میتواند نمونهای دیگر از همان سوءگیریها در سیستمهای AI باشد که پیشتر در قالبهایی مانند سوءگیریهای جنسیتی یا نژادی خود را نشان داده و اینبار به شکلی دیگر بروز کرده است. گفته شده که در این جنگ از سیستمهای AI استفاده شده است، و دقیقا در چنین موقعیتهاییست که چنین سوگیریهایی میتوانند به تحریف واقعیت و در نهایت به فاجعههای انسانی دامن بزنند.