بررسی چهارمین مجمع جهانی اخلاق هوش مصنوعی ۲۰۲۶

فناوری خنثی نیست

حسین سیمایی در سخنرانی خود در این مجمع جهانی، با نگاهی آسیب‌شناسانه به روند توسعه هوش مصنوعی، هشدار‌هایی را خطاب به جامعه جهانی مطرح کرد. وزیر علوم با تأکید بر ضرورت توجه جدی به پیامد‌های اخلاقی توسعه فناوری‌های نوین گفت: «فناوری خنثی نیست و هوش مصنوعی نیز به خودی خود عادلانه عمل نمی‌کند؛ الگوریتم‌ها گاهی بیش از آنکه بسازند، تخریب می‌کنند و پلتفرم‌ها می‌توانند به جای توسعه، منشأ آسیب شوند.»

سیمایی با تبیین خطرات نظارت لجام‌گسیخته، به مفهوم جدیدی از تهدیدات سایبری اشاره کرد و افزود: «هوش مصنوعی می‌تواند کنترل بر داده‌ها را به کنترل بر انسان‌ها تبدیل کند. حتی نظارت نیز باید محدودیت داشته باشد. هرچه شفافیت و نظارت بر دولت‌ها و صاحبان قدرت بیشتر باشد، بهتر است؛ اما هنگامی که نظارت متوجه شهروندان عادی شود و رفتار، روابط و نیات آنان را دنبال کند، می‌تواند به نوعی دیکتاتوری نامرئی تبدیل شود.» این سخنان در حالی مطرح می‌شود که بسیاری از نهاد‌های حقوق بشری نیز نسبت به استفاده از هوش مصنوعی برای سرکوب نرم شهروندان ابراز نگرانی کرده‌اند.

فاجعه میناب و مسئولیت اخلاقی پلتفرم‌ها

بخش دیگری از سخنان وزیر علوم، به ابعاد نظامی و امنیتی هوش مصنوعی اختصاص داشت. وی با انتقاد از استاندارد‌های دوگانه در توسعه فناوری تصریح کرد: «امروز داده‌ها در اقداماتی به کار گرفته می‌شوند که حقوق بشر را نقض می‌کنند و حتی به کشته‌شدن کودکان می‌انجامند. این پرسش جدی مطرح است که آیا پلتفرم‌های هوش مصنوعی در قبال نحوه استفاده از فناوری‌های خود مسئولیتی دارند یا خیر؟»

سیمایی در ادامه با اشاره به پارادوکس‌های رفتاری هوش مصنوعی افزود: «بسیاری از چت‌بات‌ها از پاسخ‌دادن به پرسش‌هایی درباره خودکشی خودداری می‌کنند و این اقدام درستی است، اما در سوی دیگر، هوش مصنوعی می‌تواند برای شناسایی و هدف‌گیری دقیق انسان‌ها با موشک به کار گرفته شود.» وی در همین زمینه به واقعه‌ای تلخ اشاره کرد و گفت: «حمله به مدرسه‌ای در میناب و کشته‌شدن ۱۶۸ دانش‌آموز در حین تحصیل، زخمی است که برای یافتن راه‌حل آن باید عمیقاً اندیشید.» این اظهارات بیانگر لزوم تدوین پروتکل‌های بین‌المللی برای جلوگیری از کاربرد جنگی هوش مصنوعی علیه غیرنظامیان است.

شکاف دیجیتال و حق فرهنگ‌های بومی

وزیر علوم ایران نابرابری را یکی دیگر از چالش‌های اساسی عصر حاضر دانست و خاطرنشان کرد: «دانش و توانایی همواره شکاف‌هایی ایجاد کرده‌اند و هوش مصنوعی ممکن است این شکاف‌ها را بیش از هر فناوری پیشین گسترش دهد. از این رو یک چارچوب اخلاقی نباید فقط به جلوگیری از آسیب محدود شود، بلکه باید دسترسی برابر را نیز تضمین کند.» وی تأکید کرد که کشور‌های در حال توسعه باید این فرصت را داشته باشند که سامانه‌های هوش مصنوعی خود را متناسب با زبان‌ها و فرهنگ‌های خود ایجاد کنند و سازمان‌های بین‌المللی نیز در کمک به تحقق این هدف، مسئولیتی اخلاقی بر عهده دارند.

سیمایی درباره اولویت‌های ایران، با اشاره به فشار‌های خارجی گفت: «امروز معتقدم مهم‌ترین اولویت، نه فقط برای ایران بلکه برای کل منطقه، رفع اقدامات قهری یکجانبه و استقرار صلح در منطقه است. این تحریم‌ها غیراخلاقی‌اند و برقراری امنیت و صلح یک ضرورت اخلاقی است.» وی همچنین بر توانمندی‌های داخلی ایران تأکید کرد و افزود: «ایران از مجموعه متنوعی از دانشگاه‌های توانمند، پژوهشگران برجسته و شرکت‌های دانش‌بنیان برخوردار است که باید با سازوکار‌های همکاری مؤثر، پژوهش‌های انباشته‌شده را به راه‌حل‌های مسئولانه تبدیل کنند.»

لزوم وجود پدال ترمز

همزمان با مباحث اخلاقی در ریاض، در جبهه توسعه‌دهندگان فناوری نیز هشدار‌های جدی شنیده می‌شود. جک کلارک، هم‌بنیان‌گذار شرکت آنتروپیک، در تاریخ ۱۵ سپتامبر ۲۰۲۶، با اشاره به سرعت فزاینده این فناوری گفت: «دولت‌ها باید پیش از آنکه کنترل این فناوری دشوارتر شود، برای تنظیم و نظارت بر آن اقدام کنند.» کلارک که خود در خط مقدم ساخت مدل‌های پیشرفته‌ای، چون Claude قرار دارد، معتقد است هوش مصنوعی برخلاف فناوری‌های پیشین، قابلیت‌های خود را در دوره‌های زمانی بسیار کوتاه افزایش می‌دهد و خطراتی غیرقابل پیش‌بینی ایجاد می‌کند.

یکی از پیشنهاد‌های کلیدی کلارک، وجود نوعی «کلید توقف» (Kill Switch) برای سامانه‌های قدرتمند است. او در مصاحبه با بی‌بی‌سی تصریح کرد: «صنعت هوش مصنوعی در حال حاضر پدال گاز دارد، اما پدال ترمز ندارد.» این در حالی است که در فضای سیاسی ایالات متحده، اختلاف‌نظر‌های شدیدی وجود دارد. دونالد ترامپ، رئیس‌جمهور آمریکا، هشدار‌های ایمنی هوش مصنوعی را «hoax» یا فریب خوانده و با هرگونه محدودیت قانونی مخالفت کرده است. این تقابل میان متخصصان و سیاست‌مداران، اهمیت مجمع جهانی اخلاق هوش مصنوعی را دوچندان می‌کند.

هوش مصنوعی نباید ابزار سلطه شود

در سطح دیپلماسی کلان، ایران هوش مصنوعی را در چارچوب بلوک‌های قدرت جدید نیز دنبال می‌کند. به گزارش پایگاه اطلاع‌رسانی ریاست جمهوری، مسعود پزشکیان، رئیس‌جمهور، در اجلاس بریکس ۲۰۲۶ با اشاره به لزوم تغییر در نظم دیجیتال جهانی اظهار کرد: «بریکس نباید صرفاً مصرف‌کننده فناوری باشد، بلکه باید در تولید دانش و شکل‌دهی استاندارد‌های اقتصاد دیجیتال نیز نقش داشته باشد.» وی تأکید کرد که بریکس باید اطمینان دهد که هوش مصنوعی و فناوری‌های نوین ابزار سلطه نشوند، بلکه وسیله توانمندسازی ملت‌ها باشند.

رئیس‌جمهور پیش از این نیز در ۱۶ آذر ۱۴۰۴، با نگاهی صریح به خطرات امنیتی این فناوری اشاره کرده و گفته بود: «هوش مصنوعی اگر درست بود تا حالا ما را خورده بود. اسرائیل با هوش مصنوعی به ایران حمله کرد.» این سخنان نشان‌دهنده دغدغه عالی‌ترین مقامات اجرایی کشور نسبت به امنیت زیرساخت‌ها در برابر حملات مبتنی بر الگوریتم‌های هوشمند است.

فصل تازه همکاری‌های منطقه‌ای؛ از دوشنبه تا تهران

در حاشیه تحولات جهانی، دیپلماسی فناوری ایران در سطح منطقه‌ای نیز فعال است. سفیر جمهوری تاجیکستان در ایران با اشاره به میراث مشترک فرهنگی، از گشایش «خانه فناوری مشترک در دوشنبه» خبر داده است. این مرکز قرار است بستری برای حضور شرکت‌های دانش‌بنیان ایرانی در تاجیکستان و انتقال دانش فنی در حوزه‌های نوین باشد. این همکاری‌ها یعنی به ایران به دنبال ایجاد یک زیست‌بوم منطقه‌ای برای مقابله با انحصارطلبی فناوری در غرب است.

قانون ملی هوش مصنوعی

به گزارش تسنیم، در داخل کشور نیز پس از سال‌ها بحث کارشناسی، سرانجام معماری حکمرانی هوش مصنوعی نهایی شد. تصویب «قانون ملی توسعه هوش مصنوعی» در ۲۸ مرداد ۱۴۰۵ توسط مجلس شورای اسلامی و ابلاغ آن در ۲۲ شهریور، نقطه پایانی بر دعوا‌های بوروکراتیک میان ایده «سازمان مستقل» و «ستاد توسعه» بود. این قانون که با تأیید شورای نگهبان و ابلاغ محمدباقر قالیباف به دولت رسید، جایگاه معاونت علمی ریاست جمهوری را به عنوان محور اصلی این اکوسیستم تثبیت کرد.

این قانون ۱۲ ماده‌ای، با نگاهی جامع به زیرساخت‌ها، بودجه عظیمی را پیش‌بینی کرده است. تأسیس «صندوق ملی توسعه هوش مصنوعی» با سرمایه اولیه ۱۰۰ هزار میلیارد ریال (۱۰۰ همت)، یکی از مهم‌ترین مفاد این قانون است. منابع این صندوق از طریق بودجه سنواتی، سهم دولت از درآمد اپراتور‌ها و اختصاص ۲۵ درصد از منابع صندوق نوآوری و شکوفایی تأمین خواهد شد. همچنین، برای مقابله با تحریم‌های سخت‌افزاری، واردات پردازنده‌های گرافیکی (GPU) از پرداخت حقوق گمرکی معاف شده است.

تجربه جهانی و مسیر پیش‌رو

بررسی تطبیقی نشان می‌دهد که چالش‌های ایران در تدوین قانون، روندی کاملاً طبیعی بوده است. اتحادیه اروپا نیز در مسیر تصویب قانون هوش مصنوعی خود (EU AI Act) از سال ۲۰۲۱ تا ۲۰۲۴ با لابی‌های گسترده و اختلافات داخلی دست و پنجه نرم کرد و حتی اکنون نیز اجرای برخی مفاد آن را تا سال ۲۰۲۸ به تعویق انداخته است. در حقیقت هوش مصنوعی به دلیل ماهیت «خط‌شکن» خود، تمامی ساختار‌های حکمرانی جهان را به چالش کشیده است.

مجمع جهانی اخلاق هوش مصنوعی ۲۰۲۶ در ریاض، بار دیگر یادآور شد که در عصر الگوریتم‌ها، «اخلاق» نه یک موضوع حاشیه‌ای، بلکه قلب تپنده امنیت و توسعه است. جمهوری اسلامی ایران با ابلاغ قانون ملی و حضور فعال در مجامع بین‌المللی، گام در مسیری نهاده است که هدف آن، نه تنها بهره‌مندی از مواهب فناوری، بلکه صیانت از حاکمیت ملی و کرامت انسانی در برابر «استعمار نوین فناورانه» است.