Empire of AI
Published:
کتاب Empire of AI که داستان شکلگیری شرکت OpenAI و توسعه ChatGPT را روایت میکند، کتاب مفصلیست که خواندن آن حدود سه ماه طول کشید.
کارن هائو، نویسنده کتاب، که روزنامهنگاری در حوزه هوشمصنوعی است، با دسترسی به مکاتبات و بحثهای درون شرکت، جزئیات قابلتوجهی از تغییر سیاستهای شرکت در طول زمان و فرایند تولید ChatGPT، بهعنوان یکی از اولین مدلهای زبانی، روایت میکند. او نشان میدهد که چگونه این شرکت از یک سازمان غیرانتفاعی که با شعار «هوشمصنوعی در خدمت بشریت» شروع به کار کرده بود به یکی از قدرتمندترین شرکتها در حوزه هوشمصنوعی تبدیل شد. او همچنین توضیح میدهد که چگونه بلندپروازی مدیران شرکت و رقابت شدید در صنعت فناوری باعث شد که چشم خود را بر بسیاری از آسیبهای هوشمصنوعی ببندند و تمام تمرکزشان را بر پیروزی در رقابت تولید مدلهای زبانی بگذارند.
سم آلتمن، مدیرعامل و یکی از بنیانگذاران OpenAI، معتقد بود که رقابت در صنعت هوشمصنوعی، رقابتی از جنس «همه یا هیچ» است و در آن برنده همهچیز را از آنِ خود میکند. هدف او این بود که OpenAI به رهبر بیرقیب این حوزه تبدیل شود. از دید او و دیگر مدیران فنی شرکت، مسیر رسیدن به این هدف تنها یک چیز بود و آن هر چه بزرگتر کردن مدلها و استفاده از دادههای بیشتر بود. مسیری که در تیکهکلام آنها نمایان بود و دائما تکرار میشد «بزرگتر، بزرگتر، بزرگتر»، تیکهکلامی که میتوان ریشههای آن را در نوعی فرهنگ نرینهسالارِ سطلهمحور دید.
یک رویکرد نقادانه در مواجهه با هوشمصنوعی این است که بپرسیم آیا این فناوری در «خدمت بشریت» است یا نه. هرچند این پرسش کاملا بهجاست، اما این کتاب از زاویه دیگری به این مسئله نگاه میکند و پرسش خود را از منظر نسبت میان «هوشمصنوعی و قدرت» مطرح میکند، همان زاویهای که «فمینیسم داده» نیز به آن تاکید دارد. از این منظر، داده و هوشمصنوعی شکلی از قدرتاند و این قدرت به شکل متوازن در جهان توزیع نشده است و سوال این است که چگونه میتوان این وضعیت را به چالش کشید. به باور نویسنده، شرکتهای بزرگ هوشمصنوعی به سه روش باعث تمرکز هر چه بیشتر قدرت میشوند: (۱) با «تمرکز دانش» و محرمانه نگه داشتن مدلها و روشهای خود، (۲) «تمرکز منابع» و انباشت توان محاسباتی، انرژی، زمین، دادهها، و نیروی انسانی، و (۳) «تمرکز نفوذ» و اثرگذاری بر افکار عمومی، بحثهای سیاسی، و مسیر آینده توسعه هوشمصنوعی.
و تا زمانیکه این انحصار و تمرکز قدرت پابرجاست، نگرانیهای جدی درباره آینده هوشمصنوعی نیز به قوت خود باقی خواهند ماند.
کارن هائو، نویسنده کتاب، که روزنامهنگاری در حوزه هوشمصنوعی است، با دسترسی به مکاتبات و بحثهای درون شرکت، جزئیات قابلتوجهی از تغییر سیاستهای شرکت در طول زمان و فرایند تولید ChatGPT، بهعنوان یکی از اولین مدلهای زبانی، روایت میکند. او نشان میدهد که چگونه این شرکت از یک سازمان غیرانتفاعی که با شعار «هوشمصنوعی در خدمت بشریت» شروع به کار کرده بود به یکی از قدرتمندترین شرکتها در حوزه هوشمصنوعی تبدیل شد. او همچنین توضیح میدهد که چگونه بلندپروازی مدیران شرکت و رقابت شدید در صنعت فناوری باعث شد که چشم خود را بر بسیاری از آسیبهای هوشمصنوعی ببندند و تمام تمرکزشان را بر پیروزی در رقابت تولید مدلهای زبانی بگذارند.
سم آلتمن، مدیرعامل و یکی از بنیانگذاران OpenAI، معتقد بود که رقابت در صنعت هوشمصنوعی، رقابتی از جنس «همه یا هیچ» است و در آن برنده همهچیز را از آنِ خود میکند. هدف او این بود که OpenAI به رهبر بیرقیب این حوزه تبدیل شود. از دید او و دیگر مدیران فنی شرکت، مسیر رسیدن به این هدف تنها یک چیز بود و آن هر چه بزرگتر کردن مدلها و استفاده از دادههای بیشتر بود. مسیری که در تیکهکلام آنها نمایان بود و دائما تکرار میشد «بزرگتر، بزرگتر، بزرگتر»، تیکهکلامی که میتوان ریشههای آن را در نوعی فرهنگ نرینهسالارِ سطلهمحور دید.
یک رویکرد نقادانه در مواجهه با هوشمصنوعی این است که بپرسیم آیا این فناوری در «خدمت بشریت» است یا نه. هرچند این پرسش کاملا بهجاست، اما این کتاب از زاویه دیگری به این مسئله نگاه میکند و پرسش خود را از منظر نسبت میان «هوشمصنوعی و قدرت» مطرح میکند، همان زاویهای که «فمینیسم داده» نیز به آن تاکید دارد. از این منظر، داده و هوشمصنوعی شکلی از قدرتاند و این قدرت به شکل متوازن در جهان توزیع نشده است و سوال این است که چگونه میتوان این وضعیت را به چالش کشید. به باور نویسنده، شرکتهای بزرگ هوشمصنوعی به سه روش باعث تمرکز هر چه بیشتر قدرت میشوند: (۱) با «تمرکز دانش» و محرمانه نگه داشتن مدلها و روشهای خود، (۲) «تمرکز منابع» و انباشت توان محاسباتی، انرژی، زمین، دادهها، و نیروی انسانی، و (۳) «تمرکز نفوذ» و اثرگذاری بر افکار عمومی، بحثهای سیاسی، و مسیر آینده توسعه هوشمصنوعی.
و تا زمانیکه این انحصار و تمرکز قدرت پابرجاست، نگرانیهای جدی درباره آینده هوشمصنوعی نیز به قوت خود باقی خواهند ماند.