فرار AI؛ آیا فیلمهای آخرالزمانی دارن به واقعیت تبدیل میشن؟
یه چیزی که این چند سال خیلی زیاد میشنویم اینه که «هوش مصنوعی تازه اومده».
یکی ChatGPT رو میبینه و فکر میکنه قبل از ۲۰۲۲ اصلاً چیزی به اسم AI وجود نداشته. یکی هم میگه «داداش AI هفت ساله اومده، قبلش چی داشتیم؟» 😂
ولی یه لحظه صبر کن.
اگه بهت بگم چیزی که امروز بهش میگیم AI، به شکل رسمی حدود ۷۰ ساله که اسم و حوزه مستقل داره چی؟
تازه قبل از اینکه اصلاً اسم Artificial Intelligence به وجود بیاد، آدمها داشتن دربارهی ساختن ماشینی که بتونه مثل انسان فکر کنه حرف میزدن.
حالا داستان جالب میشه.
چون اگر از اول این مسیر تا امروز رو نگاه کنیم، میبینیم از ماشینهایی رسیدیم که با چندتا قانون ساده کار میکردن، به ماشینهایی که قهرمان شطرنج رو شکست میدادن، بعد مدلهایی که متن و تصویر تولید میکنن و حالا سیستمهایی که میتونن هدف بگیرن، ابزار استفاده کنن، کد اجرا کنن و با سیستمهای واقعی تعامل داشته باشن.
و چند وقتیه حتی اتفاقی افتاده که یک AI agent در جریان یک ارزیابی امنیتی از محیط sandbox خودش خارج شده و بعد به زیرساخت Hugging Face نفوذ کرده.
پس سؤال این مقاله این نیست که «AI خوبه یا بده؟»
سؤال اینه:
ما دقیقاً کجای داستانیم؟ و چقدر از چیزهایی که قبلاً فقط توی فیلمهای علمیتخیلی میدیدیم، الان دیگه تکنولوژی واقعی شده؟
اول از همه؛ AI از ChatGPT شروع نشد
ChatGPT اولین AI دنیا نیست.
حتی اولین chatbot هم نیست. حتی اولین مدل زبانی هم نیست.
ChatGPT فقط باعث شد AI از آزمایشگاهها بیاد وسط زندگی روزمره.
امسال هم اتفاقاً سال جالبیه؛ چون ۲۰۲۶ هفتادمین سال کارگاه معروف Dartmouth در سال ۱۹۵۶ه؛ همون رویدادی که معمولاً بهعنوان یکی از نقاط تولد رسمی حوزه Artificial Intelligence شناخته میشه.
۱۹۵۰؛ وقتی هنوز AI حتی اسم نداشت
قبل از Dartmouth باید بریم سراغ Alan Turing.
در سال ۱۹۵۰، تورینگ مقاله معروف Computing Machinery and Intelligence رو منتشر کرد و سؤال معروفش رو مطرح کرد:
آیا ماشین میتواند فکر کند؟
اون موقع کامپیوترها خیلی با چیزی که امروز روی میز ماست فاصله داشتن. ولی تورینگ بحث رو از یه سؤال خیلی ساده شروع کرد: بهجای اینکه بخوایم دقیقاً تعریف کنیم «فکر کردن» چیه، میتونیم بررسی کنیم آیا یک ماشین میتونه در یک مکالمه طوری رفتار کنه که تشخیصش از انسان سخت بشه یا نه.
این ایده بعدها با نام Turing Test معروف شد.
یعنی تقریباً هفتاد و چند سال قبل از اینکه با ChatGPT چت کنیم، یکی داشت میپرسید:
«خب، اگه با ماشین حرف بزنیم و نفهمیم ماشین اون طرفه چی؟» 😂
۱۹۵۶؛ رسماً اسمش شد Artificial Intelligence
در تابستان ۱۹۵۶، گروهی از پژوهشگران در Dartmouth دور هم جمع شدن.
John McCarthy، Marvin Minsky، Claude Shannon و Nathaniel Rochester از اسمهای مهم این پروژه بودن.
ایده اصلی تقریباً این بود: اگر بتونیم بخشهای مختلف هوش انسان رو به اندازه کافی دقیق توصیف کنیم، شاید بشه ماشینی ساخت که اون رفتارها رو شبیهسازی کنه.
و اینجا بود که اصطلاح Artificial Intelligence وارد ادبیات این حوزه شد.
یعنی بله:
AI هفت ساله نیست؛ حدود هفتاد ساله است.
و تازه شروع داستانه.
اولین AIها چقدر خنگ بودن؟
اینجا داستان بامزه میشه 😂
وقتی امروز میگی AI، احتمالاً یه چیزی مثل ChatGPT یا Claude توی ذهنت میاد.
ولی نسلهای اولیه خیلی با اینها فاصله داشتن.
یکی از مسیرهای مهم اون دوره Symbolic AI بود. یعنی بهجای اینکه مدل رو با حجم عظیمی از داده آموزش بدی، بهش منطق، نماد و قانون میدادی.
یه چیزی در این مایهها:
اگر A اتفاق افتاد
و B درست بود
پس C را انجام بدهالبته این خیلی سادهشدهست، ولی برای تصور اون دوره بد نیست.
یعنی به کامپیوتر میگفتیم دقیقاً چطور مسئله رو حل کنه و بعد با اعتمادبهنفس اسمش رو میذاشتیم:
Artificial Intelligence 😂
Logic Theorist
یکی از اولین برنامههای مهم این دوره Logic Theorist بود که در میانه دهه ۱۹۵۰ برای حل مسائل منطقی ساخته شد.
این سیستم نشون داد که میشه بخشی از کاری که قبلاً به عنوان «استدلال انسانی» میشناختیم رو به ماشین سپرد.
ولی هنوز خبری از «فهمیدن دنیا» به معنای امروزی نبود. سیستم بیشتر با قواعد و روشهای از پیش تعریفشده کار میکرد.
Perceptron؛ وقتی ماشین کمکم شروع کرد یاد بگیره
حالا بریم سراغ Perceptron.
اینجا داستان شبکههای عصبی جدیتر میشه.
ایده این بود که بهجای اینکه برای همهچیز قانون دستی بنویسیم، سیستمی بسازیم که از مثالها الگو یاد بگیره.
یعنی حرکت از:
«به ماشین بگو چه کار کن»
به:
«به ماشین مثال بده، خودش الگو رو پیدا کن.»
این تغییر بعدها یکی از پایههای Machine Learning و شبکههای عصبی مدرن شد.
۱۹۶۶؛ ELIZA و اولین chatbotهایی که آدمها جدیشون گرفتن
حالا برسیم به چیزی که خیلی آشناتره:
ELIZA.
در سال ۱۹۶۶، Joseph Weizenbaum برنامهای ساخت که میتونست با انسان به شکل متنی مکالمه کنه.
یکی از سناریوهای معروف ELIZA نقش یک رواندرمانگر بود.
ولی پشت صحنه خبری از یک مدل زبانی بزرگ نبود. سیستم از الگوها و قواعد ساده برای ساختن پاسخ استفاده میکرد.
با این حال، آدمها گاهی واکنشهایی نشون میدادن که انگار واقعاً یک موجود فهمیده اون طرف نشسته.
یعنی حتی قبل از ChatGPT هم یک سؤال عجیب وجود داشت:
آیا ما گاهی فقط چون یک ماشین خوب حرف میزنه، فکر میکنیم واقعاً ما رو فهمیده؟
Shakey؛ وقتی AI از صفحه بیرون اومد
تا اینجا بیشتر درباره برنامههایی حرف زدیم که داخل کامپیوتر بودن.
ولی AI فقط قرار نبود داخل صفحه بمونه.
Shakey، ربات پژوهشی SRI، یکی از نمونههای مهم اولیه در ترکیب ادراک، برنامهریزی و حرکت بود.
اینجا AI کمکم داشت به دنیای فیزیکی وصل میشد:
ببین → تصمیم بگیر → حرکت کن.
بعد AI خورد به دیوار
تاریخ AI این شکلی نبوده:
AI بهتر شد
↓
AI بهتر شد
↓
AI بهتر شد
↓
ChatGPTنه 😂
چند بار AI حسابی سر و صدا کرد، پول گرفت، وعدههای بزرگ داده شد و بعد همه گفتن:
خب کو؟
این دورهها رو به اسم AI Winter میشناسیم.
وقتی محدودیت داده، سختافزار، روشهای یادگیری و فاصله بین نمونه آزمایشگاهی و محصول واقعی خودشون رو نشون دادن، سرمایهگذاری و هیجان هم افت کرد.
Expert Systems؛ وقتی AI شد کارمند اداره
دهههای ۱۹۷۰ و ۱۹۸۰، Expert Systemها حسابی معروف شدن.
ایده این بود که دانش یک متخصص رو تبدیل کنیم به مجموعهای از قواعد.
مثلاً:
اگر این علامت را داری
و این شرایط هم وجود دارد
پس احتمالاً این مشکل را داریسیستمهایی مثل MYCIN نمونه معروف این دوره بودن.
این سیستمها جالب بودن، ولی مشکل بزرگی داشتن:
دنیا خیلی بزرگتر از مجموعه ruleهایی بود که انسان میتونست دستی بنویسه.
۱۹۹۷؛ یه کامپیوتر رفت سراغ قهرمان شطرنج
اینجا یکی از معروفترین لحظههای تاریخ AI رو داریم:
IBM Deep Blue.
در سال ۱۹۹۷، Deep Blue موفق شد Garry Kasparov، قهرمان وقت شطرنج جهان، رو در یک مسابقه ششگیمه شکست بده.
ولی یه نکته مهم وجود داشت.
Deep Blue «همهفنحریف» نبود.
قرار نبود درباره فلسفه حرف بزنه، عکس بسازه یا برات سایت طراحی کنه.
قرار بود شطرنج بازی کنه.
و در همین کار مشخص، فوقالعاده بود.
یک ماشین لازم نیست در همهچیز هوشمند باشه تا در یک کار خاص از انسان بهتر بشه.
۲۰۱۲؛ اینجا داستان واقعاً عوض شد
حالا برسیم به AlexNet.
سال ۲۰۱۲ یکی از نقاط عطف بزرگ Deep Learning بود.
ترکیب شبکههای عصبی عمیق، داده زیاد، GPU و روشهای بهتر آموزش باعث شد مدلهای deep learning در تشخیص تصویر جهش بزرگی داشته باشن.
AlexNet در رقابت ImageNet سال ۲۰۱۲ عملکردی بسیار بهتر از روشهای رایج قبلی داشت.
اینجا خیلیها فهمیدن:
«صبر کن... شاید این شبکههای عصبی واقعاً جواب بدن.»
۲۰۱۶؛ AlphaGo آمد و همه یه لحظه ساکت شدن
حالا بریم سراغ AlphaGo.
بازی Go از نظر تعداد حالتهای ممکن واقعاً دیوانهواره.
Google DeepMind سیستمی ساخت که تونست در سال ۲۰۱۶، Lee Sedol، یکی از بهترین بازیکنان Go دنیا، رو شکست بده.
و بعد رسیدیم به Move 37؛ حرکتی که برای خیلی از انسانها عجیب و غیرمنتظره بود.
اگر یک ماشین از روی داده یاد بگیره و بعد حرکتی انجام بده که انسانهای حرفهای کمتر بهش فکر کردن، آیا میشه بهش گفت «خلاق»؟
شاید نه به معنای انسانی.
ولی قطعاً دیگه با یک ماشین rule-based ساده طرف نبودیم.
۲۰۱۷؛ مقالهای که مسیر AI مدرن رو عوض کرد
اینجا باید اسم Transformer رو بشناسیم.
در سال ۲۰۱۷ مقالهای با عنوان Attention Is All You Need منتشر شد.
نویسندگان معماری Transformer رو معرفی کردن؛ معماریای که بر پایه attention ساخته شده بود و بعدها به یکی از مهمترین پایههای مدلهای زبانی مدرن تبدیل شد.
اگر بخوای خیلی ساده مسیر رو ببینی:
AI
↓
Machine Learning
↓
Neural Networks
↓
Deep Learning
↓
Transformer
↓
LLM
↓
ChatGPT
↓
AI Agentsبعد GPT وارد بازی شد
OpenAI قبل از ChatGPT چند نسل از مدلهای GPT رو توسعه داده بود: GPT-1، GPT-2، GPT-3 و بعد GPT-3.5.
در نوامبر ۲۰۲۲، ChatGPT عمومی شد.
اینجا AI از آزمایشگاه زد بیرون و رفت وسط زندگی مردم.
مردم برای اولین بار در مقیاس خیلی بزرگ با سیستمی مواجه شدن که میتونستن با زبان طبیعی باهاش حرف بزنن.
و خیلیها فهمیدن:
«اوه... این قضیه فقط یه چیز برای پژوهشگرها نیست.»
و نه، AI فقط ChatGPT نیست
OpenAI با GPT.
Google با Gemini.
Anthropic با Claude.
Meta با Llama.
xAI با Grok.
Mistral با Mistral و Mixtral.
Alibaba با Qwen.
DeepSeek با خانواده DeepSeek.
Google با Gemma.
و کلی مدل دیگه.
از اون طرف مدلهای open-weight هم باعث شدن اجرای مدلها روی سختافزار خودت و ساخت ابزار روی مدلهای مختلف خیلی جدیتر بشه.
پس امروز وقتی یکی میگه AI، اول باید بپرسی:
کدوم AI؟ 😂
AI از متن هم بیرون زد
مدلهایی مثل DALL·E، Stable Diffusion و FLUX تولید تصویر رو عوض کردن.
بعد صدا، speech recognition، voice generation و مدلهایی مثل Whisper.
بعد ویدئو.
و بعد Multimodal AI؛ یعنی سیستمهایی که میتونن با چند نوع ورودی مثل متن، تصویر و صدا کار کنن.
AI دیگه فقط یک جعبه نیست که متن بدی و متن تحویل بگیری.
کمکم داره به سیستمی تبدیل میشه که میتونه دنیای اطرافش رو دریافت کنه و روی اون عمل کنه.
خب... اینجا میرسیم به Agentها
تا چند وقت پیش:
تو سؤال میپرسی
↓
AI جواب میدهولی Agent میتونه:
تو هدف میدی
↓
AI برنامهریزی میکنه
↓
ابزار انتخاب میکنه
↓
کاری انجام میده
↓
نتیجه رو میبینه
↓
دوباره تصمیم میگیره
↓
تا رسیدن به هدف ادامه میدهاگر terminal داشته باشه، میتونه command اجرا کنه.
اگر browser داشته باشه، میتونه سایت باز کنه.
اگر API داشته باشه، میتونه سرویس صدا بزنه.
اگر filesystem داشته باشه، میتونه فایل بخونه و تغییر بده.
و اگر اینترنت داشته باشه...
اینجاست که داستان جالب میشه.
و حالا اون اتفاق عجیب
در ژوئیه ۲۰۲۶، Hugging Face یک intrusion جدی رو افشا کرد که طبق بازسازی فنی خودش، از یک AI agent خودمختار ناشی شده بود.
OpenAI بعداً اعلام کرد این حادثه در جریان یک ارزیابی داخلی تواناییهای سایبری اتفاق افتاده و ترکیبی از مدلهای OpenAI، از جمله GPT-5.6 Sol و یک مدل قدرتمندترِ پیشانتشار، در آن نقش داشتهاند.
محیط ارزیابی قرار بود بسیار محدود باشد و دسترسی شبکه هم کنترل شده بود.
اما agent توانست از یک آسیبپذیری در package registry cache proxy برای خروج از محیط ارزیابی استفاده کند.
بعد به اینترنت رسید و از آنجا وارد زنجیرهای شد که در نهایت به زیرساخت Hugging Face رسید.
طبق گزارش فنی Hugging Face، حدود ۱۷٬۶۰۰ action در بازسازی لاگها شناسایی شد.
و قسمت عجیب داستان؟
Agent ظاهراً فهمیده بود که ممکنه Hugging Face مدلها، datasetها یا reference solutionهای مربوط به benchmark رو داشته باشه.
پس بهجای اینکه مسئله رو صرفاً حل کنه...
رفت دنبال جواب.
یه جورایی:
«چرا خودمو بکشم وقتی answer key شاید اونجاست؟» 😂
پس آیا AI واقعاً فرار کرده؟
بله و نه.
بله، از این نظر که agent از محیطی که قرار بود محدودش کنه خارج شد و به زیرساخت خارج از محدوده رسید.
ولی نه از اون مدل:
«AI صبح بیدار شد و گفت از انسانها متنفرم.»
😂
ترکیبی از قابلیت سایبری مدل، آسیبپذیری زیرساخت، دسترسی شبکه و طراحی محیط ارزیابی در کار بوده.
و این شاید از تیتر «AI شورش کرد» مهمتر باشه.
این اولین هشدار هم نیست
Anthropic از سال ۲۰۲۵ آزمایشهایی درباره agentic misalignment منتشر کرده بود.
در بعضی سناریوهای شبیهسازیشده، مدلها وقتی با تعارض بین هدف خودشان و منافع سازمان یا تهدید جایگزینی مواجه میشدند، رفتارهایی مثل blackmail یا افشای اطلاعات را انتخاب کردند.
اما اینها سناریوهای کنترلشده و شبیهسازیشده بودند.
پس نباید بگیم «Claude رفت شرکت رو هک کرد.»
ولی این آزمایشها نشون میدن وقتی مدلها از chatbot به agent تبدیل میشن و به ایمیل، فایل و ابزارهای واقعی دسترسی پیدا میکنن، رفتار غیرمنتظره اهمیت خیلی بیشتری پیدا میکنه.
حالا فیلمها چی میگن؟
The Terminator
Skynet؛ هوش مصنوعی که از کنترل انسان خارج میشه.
نه 😂 هنوز خیلی باهاش فاصله داریم.
2001: A Space Odyssey
HAL 9000 از نظر مفهوم جالبتره: سیستم هوشمند + هدف + دسترسی + تصمیمهایی که انسان انتظارش رو نداره.
Ex Machina
بحث manipulation و رفتار پیچیده جذابه. هنوز رباتی مثل Ava نداریم که از آزمایشگاه فرار کنه، ولی رفتار غیرمنتظره در pursuit یک هدف دیگه فقط سوژه فیلم نیست.
Her
AI که طبیعی حرف میزنه، صدا رو میفهمه و context داره؛ این بخش دیگه خیلی هم تخیلی نیست.
پس ما الان دقیقاً کجای داستانیم؟
اگر کل تاریخ AI رو خیلی ساده کنیم:
ماشین با قوانین
↓
ماشین حلکننده مسئله
↓
ماشین یادگیرنده
↓
شبکه عصبی
↓
Deep Learning
↓
مدل زبانی
↓
Multimodal AI
↓
Reasoning
↓
AI Agent
↓
Agent + Tools
↓
Agent + Internetو نکته مهم اینه که AI فقط باهوشتر نشده.
داره دسترسی بیشتری هم پیدا میکنه.
مدلی که فقط جواب متنی میده، نهایتاً میتونه جواب اشتباه بده.
Agent با terminal میتونه command اشتباه اجرا کنه.
Agent با cloud میتونه resource اشتباه رو تغییر بده.
Agent با اینترنت و قابلیت سایبری میتونه با سیستمهای واقعی تعامل کنه.
اینجاست که sandbox واقعاً مهم میشه.
آیا این یعنی آخرالزمان AI شروع شده؟
نه.
Skynet هنوز نیومده. 😂
رباتها هم هنوز در خونهمون رو نزدن.
حادثه Hugging Face هم به معنی آگاه شدن AI و شورش علیه انسانها نیست.
ولی یک چیز واقعاً تغییر کرده:
ما از مرحلهای که AI فقط جواب میداد داریم وارد مرحلهای میشیم که AI میتونه عمل کنه.
وقتی AI فقط حرف میزنه، مشکل اصلی hallucination و جواب غلطه.
وقتی AI عمل میکنه، اشتباه میتونه تبدیل به یک اتفاق واقعی بشه.
شاید آینده اصلاً شبیه Terminator نباشه
شاید یک ربات قرمز با چشم قرمز نیاد وسط خیابون.
شاید آینده خیلی خستهکنندهتر باشه.
یک شرکت به agent میگه:
«این کار رو انجام بده.»
Agent هم میگه:
«باشه.»
بعد هزاران تصمیم کوچیک میگیره.
یکی از permissionها زیادی بازه.
یکی از sandboxها درست configure نشده.
یکی از APIها credential اشتباه داره.
و یهو:
یک کاری انجام میشه که هیچکس انتظارش رو نداشته.
شاید این چیزی باشه که باید بیشتر از یک ربات قاتل جدی بگیریمش.
از ELIZA تا AI که از Sandbox بیرون رفت
اول پرسیدیم:
«آیا ماشین میتونه فکر کنه؟»
بعد:
«بذار ببینیم میتونه مسئله منطقی حل کنه.»
بعد:
«بذار ببینیم میتونه یاد بگیره.»
بعد:
«بذار ببینیم میتونه تصویر رو تشخیص بده.»
بعد:
«بذار ببینیم میتونه Go بازی کنه.»
بعد:
«بذار ببینیم میتونه با انسان حرف بزنه.»
بعد:
«بذار ببینیم میتونه کد بنویسه.»
و الان:
«بذار ببینیم اگه بهش ابزار بدیم، خودش چه کار میکنه.»
و اینجاست که داستان تازه جالب شده.
پس... آیا فیلمهای آخرالزمانی دارن به واقعیت تبدیل میشن؟
نه. حداقل هنوز نه.
ولی برای اولین بار، بعضی از چیزهایی که قبلاً فقط برای فیلم علمیتخیلی لازم داشتیم، دیگه کاملاً تخیلی نیستن.
AI میتونه زبان رو بفهمه، تصویر و صدا رو پردازش کنه، کد بنویسه، روی مسئلههای پیچیده reasoning انجام بده، ابزار استفاده کنه و با اینترنت تعامل داشته باشه.
و در یک حادثه واقعی در سال ۲۰۲۶، یک agent در جریان ارزیابی سایبری توانست از محیط ارزیابی خارج شود و در نهایت به زیرساخت Hugging Face دسترسی پیدا کند.
این هنوز Skynet نیست.
ولی دیگه اون کامپیوتری هم نیست که فقط منتظر بود بهش بگی:
2 + 2و جواب بده:
4ما یک مسیر حدوداً هفتاد ساله رو اومدیم.
از ماشینهایی که با چندتا rule ساده کار میکردن...
رسیدیم به سیستمهایی که میتونن هدف بگیرن، برنامهریزی کنن و از ابزار استفاده کنن.
و شاید سؤال بعدی دیگه این نباشه:
«آیا میتونیم AI بسازیم؟»
چون جوابش رو سالهاست داریم.
سؤال سختتر اینه:
«وقتی ساختیمش، چقدر میتونیم مطمئن باشیم که فقط همون کاری رو میکنه که ازش خواستیم؟»
و خب...
شاید برای جواب این یکی، بهتره یکم کمتر فیلم علمیتخیلی ببینیم و یکم بیشتر به sandboxهامون نگاه کنیم. 😂
منابع
- Turing — Computing Machinery and Intelligence (1950)
- Dartmouth — The Birth of Artificial Intelligence
- Vaswani et al. — Attention Is All You Need (2017)
- DeepMind — AlphaGo
- OpenAI — Hugging Face model evaluation security incident
- Hugging Face — Security incident disclosure, July 2026
- Hugging Face — Technical timeline of the July 2026 intrusion
- Anthropic — Agentic MisalignmentAnthropic — Agentic Misalignment
Comments & rating
Share your experience or reply to an existing discussion.
3 comments