سالی که سیاستگذاران با هوش مصنوعی بیدار شدند

سالی که سیاستگذاران با هوش مصنوعی بیدار شدند

هوش مصنوعی در سال 2023 به چیزی بیش از یک کلیدواژه تبدیل شد

فارن پالیسی (Foreign Policy) یا «سیاست خارجی» مجله خبری سیاسی‌اقتصادی است که دانشجویان و علاقمندان به دانش سیاستگذاری و خط­مشی­گذاری عمومی به آن مراجعه دارند. این مجله طی مقاله­ای به مرور پنج مقاله برتر خود در زمینه هوش مصنوعی پرداخته که ترجمه این متن از نظر می­گذرد.

برای اینکه توانایی‌ها، تضادها و هرج و مرج­هایی که هوش مصنوعی در سال گذشته ایجاد کرد حس پیدا کنید، فقط کافی است به برجسته ترین قهرمان این فناوری نگاه کنید. شرکت OpenAI مستقر در کالیفرنیا در نوامبر 2022 با راه اندازی چت ربات همه کاره  ChatGPT هوش مصنوعی را وارد گفتگوهای عمومی کرد و یک مسابقه جهانی برای توسعه مدل‌های قدرتمندتر برانگیخت و بدین ­ترتیب آهنگ و ریتم سال 2023 را تنظیم کرد. این شرکت سال 2023 را با اخراج ناگهانی مدیر عامل خود، سام آلتمن، به پایان رساند تا پنج روز بعد او را با هیئت مدیره جدید و قدرت ظاهراً تثبیت‌شده در راس آن بازگرداند.

چت جی­پی­تی و جنون تغذیه از آن سیاستگذاران سراسیمه جهان را سراسیمه و آشفته کرد. دولت‌های آمریکا، اروپا و چین همگی به سرعت تلاش کردند تا نرده‌های محافظ تنظیم­گر و نظارتی را در اطراف هوش مصنوعی قرار دهند. این مساعی به تلاش‌های چندجانبه در نشست‌های G-7 و G-20، سازمان ملل متحد و اجلاس ایمنی هوش مصنوعی بریتانیا کشیده شد.

دلیل کافی برای نگرانی وجود دارد. هوش مصنوعی این ظرفیت را دارد که اقتصاد، جامعه و دموکراسی را در سراسر جهان تغییر دهد و همچنین کاربردهای نظامی قابل توجهی دارد که برخی از آنها در حال حاضر نیز مورد استفاده­اند. رقابت برای توسعه هوش مصنوعی نه تنها بین شرکت‌ها، بلکه بین کشورها نیز در جریان است.

شدیدترین هشدارها از سوی کسانی است که خود خالق این فناوری بوده­اند. آلتمن، مانند بسیاری از افراد در صنعت AI، بین دو جایگاه بشارت دهنده و هشداردهنده در نوسان بوده و خواستار تنظیم مقررات بیشتر در واشنگتن و فراتر از آن بوده است. در بیشتر ایام سال گذشته میلادی، او همچنین برجسته­ترین دیپلمات صنعت بود که با رهبران هند، استرالیا و خاورمیانه ملاقات می‌کرد. این میزان نفوذ شرکت‌های بزرگ بر توسعه و نظارت بر فناوری به نوبه خود بیشتر بر حیرت عمومی افزوده است.

در همین حال، چین هدف خود را برای تبدیل شدن به یک رهبر جهانی در زمینه هوش مصنوعی تا پایان دهه مشخص کرده و پیشرفت قابل توجهی در چندین جبهه داشته است. بسیاری از اقدامات مهم اخیر واشنگتن در سیاست خارجی - مانند محدودیت‌های گسترده در نیمه هادی‌ها و سرمایه گذاری‌های فناوری برون‌مرزی - با هدف کندکردن پیشرفت پکن انجام شده است. نشانه‌هایی از تمایل به مشارکت در کاهش آسیب‌های جهانی وجود دارد که گفتگوهای جو بایدن، رئیس جمهور ایالات متحده و شی جین پینگ، رئیس جمهور چین در سانفرانسیسکو در ماه نوامبر از جمله اینهاست.

سؤالات بزرگ در مورد هوش مصنوعی در سال 2024 این است که آیا مقررات می‌توانند به اندازه کافی مؤثر و سازگار باشند تا با قابلیت‌های به سرعت در حال تکامل همگام شوند؟ آیا کشورهای سراسر جهان می‌توانند حتی در مورد گاردهای حفاظتی از هوش مصنوعی به توافق برسند؟

در ادامه چکیده­ای از پنج مقاله که در سال گذشته در خصوص هوش مصنوعی بیشتر مورد توجه بوده­اند ذکر می­شود.

1. دروازه‌بانان هوش مصنوعی برای آنچه در راه است آماده نیستند؛

پل شار، 19 ژوئن

اگرچه تمرکز اولیه بر روی رقابت هوش مصنوعی بر خود صنعت بود، اما گفتگو به سرعت به این موضوع گسترش یافت که چگونه فناوری تحول‌آفرین بر ژئوپلیتیک تأثیر می‌گذارد؟ کدام کشورها بهترین آمادگی را برای استفاده از این لحظه دارند؟ و چه چیزی تعیین می کند چه کسی پیشرو است؟

شماره چاپ تابستان فارین پالیسی تلاشی اولیه برای درک این بحث‌ها بود که با مقاله اصلی پل شار، معاون اجرایی رئیس جمهور و مدیر مطالعات مرکز امنیت جدید آمریکا (CNAS) تثبیت شد. شار استدلال می‌کرد که دولت‌ها نمی‌توانند در حاشیه بنشینند در حالی که شرکت‌های بزرگ مدل‌های هوش مصنوعی را برای انجام کارهای بزرگ‌تر و بهتر یا بدتر به کار می‌برند.

در ماه‌های اخیر، بسیاری از پیش‌بینی‌های شار با چندین تلاش نظارتی ملی و فراملی محقق شده‌اند. اما سال 2024 چالش‌های جدیدی را برای تنظیم‌کننده‌ها به همراه خواهد داشت. از جمله این چالش­ها این است که آیا هوش مصنوعی امکان حملات سایبری مخرب را آسان‌تر می‌کند؟ آیا هوش مصنوعی به ساخت سلاح‌های زیستی کمک می‌کند؟ با توجه به اینکه چنین خطراتی چقدر سریع می­توانند تکامل یابند؟ داشتن یک پایه محکم مهم است.

2. آنچه آمریکا می­تواند در تنظیم­گری بر هوش مصنوعی از چین یاد بگیرد؟

توسط مت شیهان، 12 سپتامبر

یکی از بزرگترین سوالات در مورد هوش مصنوعی این است که چه کسی برنده است؟ به ویژه بین ایالات متحده و چین؟ در مقاله دیگری ماریانو فلورنتینو کوئلار و مت شیهان از بنیاد کارنگی برای صلح بین‌المللی تأکید کردند که چرا ممکن است این سؤال اشتباه باشد و چگونه هر دو کشور باید بر مهار فناوری و جلوگیری از "حوادث هوش مصنوعی" بین آنها تمرکز کنند.

در مقاله بعدی از سپتامبر، او استدلال کرد که مقررات سختگیرانه هوش مصنوعی پکن می‌تواند درس‌هایی برای واشنگتن به همراه داشته باشد. مهم­ترین آنها تمایل به تکرار و انطباق سریع با فناوری به جای هدف قرار دادن قانون چتر است. شیهان نوشت: «چین برنامه‌های کاربردی خاصی را که نگران آن بود انتخاب کرده و مجموعه‌ای از مقررات را برای مقابله با این نگرانی‌ها تدوین کرده است. این به آن اجازه داد تا به طور پیوسته ابزارهای سیاستی جدید و دانش نظارتی را با هر مقررات جدید ایجاد کند».

3. هر کشوری به تنهایی در هوش مصنوعی خود است؛

توسط بیل درکسل و مایکل دپ، 13 ژوئن

با توجه به ماهیت تغییر پارادایم هوش مصنوعی و پتانسیل این فناوری برای حوادث فاجعه بار، عجیب نیست که بسیاری گفتمان ژئوپلیتیکی هوش مصنوعی را با گفتمان ژئوپلیتیکی سلاح‌های هسته‌ای مقایسه کرده­اند. آنتونیو گوترش، دبیرکل سازمان ملل متحد، از جمله صداهایی بود که خواستار یک رژیم حکمرانی جهانی هوش مصنوعی با الگوبرداری از آژانس بین‌المللی انرژی اتمی (IAEA) شد؛ نهادی که در سال 1957 برای تضمین عدم اشاعه هسته‌ای ایجاد شد.

اگرچه این مدل می‌تواند راهنمایی‌هایی ارائه کند، اما دلایلی وجود دارد مبنی بر اینکه مقررات هوش مصنوعی مناسب نیست؛ همان طور که بیل درکسل و مایکل دپ از CNAS در ماه ژوئن استدلال کردند. هوش مصنوعی در کاربردهایش بسیار پردامنه­ و گسترده‌تر است و بسیار سریع به سمت نیاز به سازکاری واقعاً مؤثر مانند آژانس بین‌المللی انرژی اتمی در حرکت است. درکسل و دپ نوشتند: «پیمان‌ها و توافق‌های چندجانبه نسبت به هوش مصنوعی بسیار کندتر حرکت می‌کنند. با نزدیک شدن به پایان سال 2023، چند تلاش چندجانبه که به طور قطع شبیه آژانس بین المللی انرژی اتمی نیستند، شروع به شکل گیری کردند، اما راهی طولانی در پیش است».

یک تصویر تصویری سر بریده یک مجسمه یونانی را نشان می‌دهد که سیم‌های فناوری سایبری از دهانه گردنش بیرون می‌آید تا داستانی درباره مقررات فناوری هوش مصنوعی و سقوط دموکراسی داشته باشد.

یک تصویر تصویری سر بریده یک مجسمه یونانی را نشان می‌دهد که سیم‌های فناوری سایبری از دهانه گردنش بیرون می‌آید تا داستانی درباره مقررات فناوری هوش مصنوعی و سقوط دموکراسی داشته باشد.

4. پارادوکس تنظیم­گری هوش مصنوعی؛

توسط باسکار چاکراورتی، 4 اوت

از آنجایی که رگولاتوری و تنظیم­گری مقررات هوش مصنوعی در سراسر جهان شتاب بیشتری می‌گیرد، ارزش این را دارد که بپرسیم بلندترین صداهای مطرح کدامند و چه تأثیری بر دیگران دارد؟ در ماه آگوست، باسکار چاکراورتی، رئیس تجارت جهانی در دانشکده حقوق و دیپلماسی فلچر دانشگاه تافتز، تأکید کرد که چگونه هوش مصنوعی می‌تواند تفاوت‌ها را در نحوه اختصاص منابع شرکت‌های بزرگ فناوری به تعدیل محتوا در خارج از غرب تشدید کند.

چاکراورتی استدلال کرد که مؤسسات و شرکت‌ها باید به «جیرجیر کننده­‌ترین چرخ‌ها» در ایالات متحده و اروپا تمایل داشته باشند اگر خواستار مقررات هوش مصنوعی باشند و همزمان بخواهند بر بخش عمده‌ای از سود شرکتشان حساب کنند. این به‌طور بالقوه شکاف‌هایی در بسیاری از مناطق جنوب جهانی ایجاد می‌کنند که می‌تواند خطرناک باشد؛ آن هم در یک سال انتخاباتی مهم که در آن اطلاعات نادرست و سخنان نفرت پراکنده می­تواند بیش از هر زمان دیگری گسترش یابد.

5. هَک هوش مصنوعی؛

توسط ریشی آیینگار، 15 اوت

ما امسال مطالب زیادی در مورد خطرات هوش مصنوعی و مبارزه برای مهار اثرات مضر آن منتشر کردیم اما فارین پالیسی نگاهی منحصر به فرد به پشت پرده نحوه اجرای آن در عمل داشت.

در اواسط آگوست، من برای یکی از بزرگترین کنفرانس‌های هکرهای جهان به لاس وگاس سفر کردم، جایی که هشت شرکت بزرگ هوش مصنوعی با دولت ایالات متحده همکاری کردند تا تا مدل‌های خود را برای به اصطلاح تمرین تیم‌سازی قرمز باز کنند. هدف این بود که آن مدل‌ها را به انجام کارهای مضر مانند آموزش به کاربر که چگونه کسی را تحت تعقیب قرار دهد یا حقایق گمراه‌کننده ایجاد کند سوق دهیم.

موفقیت آسان بسیاری از دو هزار هکرهای شرکت‌کننده مخاطرات طراحی مقررات و اینکه چرا کاخ سفید چنین نقش بزرگی را بر عهده گرفته است بیشتر برجسته کرد. حالا این سناریو را با صدها زبان و زمینه‌های فرهنگی به سایر نقاط جهان گسترش دهید تا به پیشنهادی دلهره‌آورتر تبدیل شود.