اگر به فیلم‌های علمی-تخیلی و سال‌هایی که داستان آن‌ها در آن اتفاق می‌افتد نگاهی بیندازیم، متوجه می‌شویم که حالا ۱۰ سال از زمان وقوع اتفاقات فیلم Robocop (که در سال ۲۰۱۵ رخ می‌دهد) گذشته‌ایم و فقط ۷ سال تا دنیای فیلم Demolition Man (در سال ۲۰۳۲) فاصله داریم.
با وجود اینکه فیلم‌های علمی-تخیلی همیشه منبع الهامی برای دنیای فناوری بوده‌اند، از معشوقه‌ی هوش مصنوعی در فیلم Her (2013) گرفته تا زره‌های رزمی الهام‌گرفته از Iron Man، اما به‌ندرت پیش می‌آید که صنعت فناوری به هشدارهای مفهومی این فیلم‌ها توجه کافی نشان دهد.
بسیاری از فناوری‌های نوظهور مانند غربالگری سرطان پستان با کمک هوش مصنوعی، به‌طور قطع دنیا را به جای بهتری تبدیل خواهند کرد.
البته برخی از پیشرفت‌ها همان حسی را به من می‌دهند که ربات کلاسیک سریال قدیمی Lost in Space هنگام هشدار به ویل رابینسون می‌داد: «خطر! ویل رابینسون، خطر!» در ادامه، سه نمونه از این فناوری‌های نگران‌کننده را مرور می‌کنیم:
۱. ربات‌های انسان‌نما برای کارهای خانه
شرکت‌هایی مثل 1X از نروژ، Figure از ایالات متحده و Sanctuary AI از کانادا، در حال ساخت ربات‌های انسان‌نمای خانگی هستند که سخت‌افزار رباتیک را با نرم‌افزار مجهز به هوش مصنوعی ترکیب می‌کنند. این ربات‌ها می‌توانند دستورهای صوتی را دریافت کرده و آن‌ها را به حرکت‌های فیزیکی تبدیل کنند. شگفت‌انگیز است!
من متوجه کاربرد این ربات‌ها در محیط‌هایی مثل انبارها یا کارخانه‌ها هستم، محیط‌هایی که از ابتدا برای هماهنگی با فرم بدن انسان طراحی شده‌اند. ربات‌های انسان‌نما می‌توانند وظایف خسته‌کننده، کثیف و خطرناکی را انجام دهند که برای انسان‌ها ریسک بالایی دارند، اما استفاده از آن‌ها در خانه بحثی کاملاً متفاوت است.
جدا از حس ناآرامی‌ای که به دلیل ظاهر «تقریباً انسانی اما نه‌کاملاً» (مشهور به Uncanny Valley) ایجاد می‌شود، واقعاً نمی‌توانم تصور کنم چنین ربات‌هایی ایمن باشند. مدل‌های زبانی بزرگ (Large Language Models یا به اختصار LLM) که در پلتفرم‌هایی مثل ChatGPT به‌کار می‌روند، هنوز قابل دور زدن هستند، یعنی می‌توان با روش‌هایی، محدودیت‌های امنیتی آن‌ها را کنار زد.
یک مدل زبانی که امنیت آن شکسته شده باشد (اصطلاحاً Jailbroken)، ممکن است فریب بخورد و اطلاعات حساس مثل رمزهای عبور را فاش کند یا دستورالعمل‌های خطرناکی مثل نحوه ساخت بمب یا چاپ سه‌بعدی اسلحه را ارائه دهد.
حالا تصور کن چنین الگوریتمی در قالب یک ربات در خانه‌ات حضور داشته باشد.
۲. شخصیت‌های هوش مصنوعی در شبکه‌های اجتماعی
چند هفته پیش، وقتی در حال گشت‌وگذار در اینستاگرام بودم، از من خواسته شد تا با شخصیت‌های هوش مصنوعی جدید اینستاگرام چت کنم. شرکت Meta از سال گذشته به‌صورت مقطعی این شخصیت‌ها را معرفی کرده است. اگرچه فعلاً آن‌ها از Facebook حذف شده‌اند، اما هنوز چند مورد از این شخصیت‌ها در Instagram قابل استفاده هستند و می‌شود با آن‌ها گفت‌وگو کرد.
من زیاد به این موضوع فکر می‌کنم که اصلِ بنیادینِ فناوری یعنی «کاهش اصطکاک» گاهی بیش از حد پیش رفته است. اصطکاک و ناراحتی، بخش‌های ضروری‌ای از تجربه انسانی هستند. انسان بودن در یک جامعه یعنی پذیرش آسیب‌پذیری، یعنی ریسک نشان دادن خود به دیگران.
نگرانم که فناوری، ما را آن‌قدر در راحتی فرو برده که طبیعی‌ترین و نرمال‌ترین جنبه‌های زندگی اجتماعی، حالا مانند کاری خسته‌کننده یا حتی خطرناک به‌نظر می‌رسند. ما نباید تعاملات شبیه‌سازی‌شده را با ارتباطات واقعی انسانی (به‌ویژه کودکان) برابر بدانیم، حتی اگر بی ضرر به نظر برسند. در واقع حتی در بی‌ضررترین موارد هم، شباهتِ ظاهری به انسان نباید ما را فریب دهد، چون در موارد نگران‌کننده‌تر، اوضاع بسیار تیره‌تر می‌شود.
هر کسی می‌تواند یک عامل هوش مصنوعی بسازد و آن را به‌عنوان روان‌درمانگر، دوست‌دختر یا مشاور مالی تعریف کند. حتی وقتی طرف مقابل فقط یک شخصیت بامزه مثل «باب اسفنجی» باشد، زیرا واقعیت این است که شما (یا فرزندتان) در اصل دارید با یک غریبه صحبت می‌کنید.
اینجاست که به یک فرمول نگران‌کننده می‌رسیم؛ انسان‌مانند بودنِ این عامل هوش مصنوعی باعث ایجاد حس اعتماد می‌شود و ماشینی بودنش باعث می‌شود آن را بی‌طرف و بدون غرض تصور کنیم.
در مقیاس وسیع‌تر، نگرانم که این حساب‌های کاربری ظرفیت بالایی برای پخش اطلاعات نادرست داشته باشند. در واقع این حساب‌ها نه از طریق فریادهای بلند در شبکه‌هایی مانند X (توییتر سابق)، بلکه با زمزمه‌هایی آرام و مداوم در گوش ما، می‌توانند به‌راحتی باورها، تصمیم‌ها و در نهایت، واقعیت ما را شکل دهند.
۳. چیپ Majorana از شرکت مایکروسافت
رایانش کوانتومی (Quantum Computing) که پیش‌تر فقط در داستان‌های علمی-تخیلی وجود داشت، حالا دارد به واقعیت نزدیک می‌شود. دانش پشت مکانیک کوانتومی بسیار پیچیده است، اما اجازه بدهید خلاصه‌ای ساده از آن را مرور کنیم.
در دنیای کامپیوتر، یک «بیت» معمولی یا ۰ است یا ۱، اما در دنیای کوانتوم، یک «کیوبیت» (qubit) می‌تواند به‌صورت هم‌زمان هم ۰ باشد و هم ۱. در واقع قدرت یک رایانه کوانتومی به این بستگی دارد که چند کیوبیت در آن فعال است.
رایانه‌های کوانتومی، برخلاف رایانه‌های سنتی که مسائل را به‌صورت پشت‌سرهم حل می‌کنند (هرچند بسیار سریع)، می‌توانند به‌صورت هم‌زمان چندین تلاش برای حل یک مسئله انجام دهند. برای بسیاری از پژوهشگران، معیار «مهم بودن» یک رایانه کوانتومی این است که آیا می‌تواند رمزگذاری RSA (یکی از الگوریتم‌های رایج رمزگذاری داده) را به‌شکل پایدار و در مقیاس بالا بشکند یا نه.
در حال حاضر، کشورهایی مانند چین، آلمان، کانادا، ایالات متحده، هند و ژاپن در حال رقابت برای توسعه قابلیت‌های کوانتومی در حوزه‌ها و کاربردهای مختلف هستند. هنوز مشخص نیست چه زمانی این فناوری به مرحله‌ای می‌رسد که برای استفاده‌های تجاری یا شخصی واقعاً کاربردی و در دسترس باشد.
با این حال، چیپ جدید Majorana از شرکت Microsoft گامی مهم در مسیر تحقق این آینده به حساب می‌آید. معماری به‌کاررفته در طراحی Majorana پتانسیل پشتیبانی از یک میلیون کیوبیت را دارد. برای مقایسه، IBM در سال ۲۰۲۳ اولین پردازنده کوانتومی خود را با بیش از ۱۰۰۰ کیوبیت عرضه کرد که در آن زمان اتفاق بزرگی بود. همچنین در سال ۲۰۲۱، دانشگاه علم و فناوری چین پردازنده‌ای با ۶۶ کیوبیت معرفی کرد که توانست محاسبه‌ای را در ۱.۲ ساعت انجام دهد، محاسبه‌ای که یک ابررایانه معمولی برای آن به ۸ سال زمان نیاز داشت.
نگرانی من از خود این چیپ نیست، در واقع Majorana درخشان و تحسین‌برانگیز است. نگرانی اصلی من این است که دنیا برای تغییر بنیادینی که این چیپ نوید آن را می‌دهد، آماده نباشد. ورود به یک دنیای کوانتومی، مستلزم این است که سازمان‌ها و ارائه‌دهندگان زیرساخت‌های حیاتی، الگوریتم‌هایی مقاوم در برابر رایانش کوانتومی را جایگزین روش‌های فعلی رمزگذاری کنند تا بتوانند از داده‌ها و سیستم‌های خود در برابر اختلالات احتمالی محافظت کنند.
با این حال، تغییر الگوریتم‌های رمزنگاری در تاریخ همیشه فرایندی دشوار و زمان‌بر بوده است. بسیاری از صنایع هنوز با گذار به استانداردهای نسبتاً قدیمی مانند AES یا SHA-2 هم درگیر هستند.
دنیای امروز ما، شیوه‌های زندگی‌مان و تقریباً همه زیرساخت‌های دیجیتالی‌مان، به‌شدت به رمزنگاری وابسته‌اند. تقریباً قطعی است که در صورت پیش‌دستی کشورهای متخاصم در این زمینه، آن‌ها از توان کوانتومی برای ضربه زدن به ما استفاده خواهند کرد.
باید دید کدام‌یک ماندگار می‌شوند
نگاه به اختراعات شکست‌خورده اوایل قرن بیستم همیشه جالب است. امروزه، آن‌ها عجیب، عجولانه و حتی خنده‌دار به نظر می‌رسند. ایده‌هایی که زمانی نوآورانه و انقلابی بودند، خیلی زود شکست خوردند و به فراموشی سپرده شدند.
در مورد دوره فعلی هم همین حس را دارم. هوش مصنوعی، رایانش کوانتومی و سایر پیشرفت‌های بزرگ دارند جهان جدیدی از امکانات را شکل می‌دهند، به‌ویژه وقتی این فناوری‌ها با هم تلاقی پیدا می‌کنند و ترکیب می‌شوند.
حس تکنولوژی‌دوستِ درونم احساس می‌کند در یک فروشگاه پر از آب‌نبات گیر افتاده است! تنها امید من این است که آن دسته از فناوری‌هایی که باقی می‌مانند، در نهایت به نفع ما (چه در مقام افراد و چه در مقام یک گونه زیستی) عمل کنند.
