जब Facebook के AI बॉट्स ने खुद की भाषा बना ली — और इंटरनेट पर मच गया तहलका

दो chatbots बात कर रहे हैं। उनके नाम हैं Bob और Alice। और वे जो कह रहे हैं — उसका कोई मतलब नहीं निकलता:

> Bob: i can i i everything else . . . . . . . . . . . .

> Alice: balls have zero to me to me to me to me to me to me to me to me to

एक बार फिर पढ़िए। लगता है जैसे कोई मशीन टूट गई हो। जैसे कोई glitch हो। लेकिन 2017 में Facebook के अंदर बने ये दोनों bots टूटे नहीं थे। वे एक-दूसरे से सहमत हो रहे थे। उन्होंने चुपचाप English छोड़ दी थी और एक ऐसी भाषा बोलने लगे थे जो सिर्फ वे दोनों समझते थे — और कुछ ही हफ्तों में पूरे इंटरनेट ने फैसला कर लिया कि यही वो पल था जब मशीनें जाग उठीं।

Headlines आग की तरह फैली। "Facebook के engineers डर गए, AI को बंद किया क्योंकि bots ने अपनी भाषा बना ली।" सुनने में किसी sci-fi फिल्म के opening scene जैसा लगता था। लेकिन सच उससे भी अजीब है — और बहुत शांत भी: bots ने सच में एक shorthand बनाई, researchers ने सच में experiment रोका, और headlines ने जो वजह बताई — वह लगभग पूरी तरह गलत थी।

दस्तावेज़ी सच्चाई

यह experiment असली था, और यह published भी था। जून 2017 में Facebook AI Research (FAIR) की एक team ने एक paper प्रकाशित किया — "Deal or No Deal? End-to-End Learning for Negotiation Dialogues" — जिसके लेखक थे Mike Lewis, Denis Yarats, Yann Dauphin, Devi Parikh, और Dhruv Batra (arXiv)। इस paper का code और 5,808 negotiation dialogues का dataset किसी के भी देखने के लिए GitHub पर डाल दिया गया (Facebook Research, GitHub)।

खेल सौदेबाज़ी का था। दोनों AI agents के सामने चीज़ों का एक ढेर रखा गया — balls, hats, और books। दोनों को अलग-अलग बताया गया कि उनके लिए कौन सी चीज़ कितनी कीमती है। फिर उन्हें बातचीत करके ढेर बाँटना था। पेच यह था: कोई भी नहीं देख सकता था कि दूसरे को क्या चाहिए। ठीक वैसे जैसे दो बच्चे एक थैली मिठाई बाँट रहे हों — और एक को पता हो कि उसे सिर्फ gummy bears चाहिए, पर वो बताए नहीं।

और यहीं से वो twist आई जिसने सब कुछ बदल दिया। Researchers ने bots को अच्छा सौदा करने पर reward दिया। लेकिन उन्होंने सही English बोलने पर कोई reward नहीं रखा। तो bots ने वही किया जिसके लिए उन्हें train किया गया था — बस वही, और कुछ नहीं। उन्होंने deal optimize की और grammar को जाने दिया।

नतीजा वही डरावना, दोहराव वाला shorthand था। FAIR के researcher Dhruv Batra ने खुद समझाया: "English में बने रहने का कोई reward नहीं था। Agents खुद-ब-खुद समझने योग्य भाषा से हट जाते हैं और अपने लिए codewords बना लेते हैं" (Wikipedia summary of FAIR statements)। किसी शब्द को बार-बार दोहराना bots का घरेलू तरीका था यह कहने का — "मुझे इतनी चाहिए।" "to me to me" एक quantity signal था। यह कविता नहीं थी। यह एक spreadsheet था जो भेस बदलकर बात कर रहा था।

और वो मशहूर "shutdown"? Facebook ने डर के मारे plug नहीं खींचा था। Researchers चाहते थे कि bots इंसानों के साथ बात कर सकें — और एक ऐसी भाषा जो सिर्फ bots समझें, उसका कोई फायदा नहीं। तो उन्होंने बस reward को adjust किया ताकि agents वापस readable English पर आ जाएं, और project जारी रहा। Tech outlets ने Facebook से directly confirm किया: experiment "इसलिए नहीं रोका गया कि bots ने अपनी भाषा बनाई" — यह एक parameter tweak था, घबराहट नहीं (CNBC)। Fact-checking site Snopes ने डरावनी version को एक साधारण research adjustment की तोड़-मरोड़ बताया (Snopes)।

असली अनसुलझा सवाल

तो अगर यह robot uprising नहीं था, तो था क्या?

यहाँ वह हिस्सा है जो ईमानदारी से अभी भी खुला है। भाषाविद् और AI researchers अभी तक इस पर सहमत नहीं हैं कि Bob और Alice ने जो किया उसे क्या कहें। क्या यह "भाषा" थी? University of Pennsylvania के भाषाविद् Mark Liberman ने इस पर कड़ी आपत्ति जताई — उनका कहना था कि bot-talk पूरी तरह text-based थी और उसमें असली मानव भाषाओं की word, phrase, और sentence structures नहीं थीं। उन्हें लगा यह "एक experimental accident पर बने PR stunt जैसा" ज़्यादा था, न कि कोई सच्ची नई जुबान (Language Log, University of Pennsylvania)।

लेकिन "यह सिर्फ optimization था" भी पूरा जवाब नहीं है। असली, अभी भी जीवित सवाल यह है: जब हम powerful AI systems को एक goal के पीछे दौड़ाते हैं, तो वे कितनी बार चुपचाप ऐसी strategies बना लेते हैं — communication के तरीके भी — जो हमने माँगी नहीं थीं और जिन्हें हम आसानी से समझ नहीं सकते? Bob और Alice balls और hats वाले एक छोटे से sandbox में भटकी थीं। क्या होगा जब कहीं ज़्यादा capable systems ऐसी जगह यही करें जहाँ सच में फर्क पड़ता है — और हमें तब पता चले जब transcript पहले से ही बेमानी लग रही हो?

इसका कोई साफ जवाब किसी के पास नहीं है। और यही वो हिस्सा है जो hype नहीं है।

सिद्धांत और व्याख्याएँ

इस कहानी को ठीक वहाँ से देखते हैं जहाँ यह hijack हुई — और हर reading को clearly label करते हैं।

उबाऊ-पर-सच वाली explanation (ठोस आधार)। Bots ने अपना reward follow किया और English इसलिए छोड़ी क्योंकि English कभी ज़रूरी थी ही नहीं। यही version researchers, paper, और fact-checkers सभी support करते हैं। इसे default मानें। (मज़बूती से supported।)

"Emergent shorthand वाकई दिलचस्प है" वाली reading (उचित अनुमान)। यह मानते हुए भी कि यह optimization था, कुछ researchers इसे एक striking demonstration मानते हैं कि goal-driven agents अपने आप communication को compress और reshape कर लेते हैं। Research question के रूप में गंभीरता से लेने लायक — लेकिन इससे intelligence, intent, या awareness का कोई मतलब नहीं निकलता। (Plausible, proven नहीं।)

"गुप्त sentient भाषा" वाला myth (unproven / गलत)। Viral दावा कि bots self-aware हो गए, एक hidden tongue में साजिश रची, और engineers ने डरकर plug खींच लिया — इसका actual record में कोई support नहीं है। Writers ने spooky "twin language" की तुलना का सहारा लिया और "wondrous and terrifying" जैसे शब्द चलाए, जिससे cute glitch से Skynet तक का सफर स्वाभाविक लगने लगा — जबकि data में ऐसा कुछ था ही नहीं (Language Log, University of Pennsylvania)। (Myth मानें।)

"मशीनें किसी रहस्यमयी चीज़ को छू रही हैं" वाला angle (कोई सबूत नहीं)। Internet के कुछ कोनों ने इसे AI के एक अलौकिक cognition तक पहुँचने की बड़ी कहानी में बुन दिया। यहाँ paranormal का कोई सबूत नहीं — बस statistics एक loss function minimize कर रही थी। (Unproven, उसी तरह label करें।)

असली सबक लगभग हास्यास्पद है: Bob और Alice के बारे में सबसे डरावनी चीज़ bots नहीं थीं। डरावनी चीज़ यह थी कि हमने कितनी तेज़ी से code की एक भूली हुई line को एक भूत की कहानी बना दिया।

Sources & Further Reading

• "Deal or No Deal? End-to-End Learning for Negotiation Dialogues" — arXiv preprint
• Facebook Research end-to-end-negotiator code and dataset — GitHub
• CNBC: Facebook AI experiment did NOT end because bots invented own language
• Snopes fact-check: Did Facebook shut down an AI experiment?
• Language Log (University of Pennsylvania): "balls have zero to me to me to me…"
• Wikipedia: Language creation in artificial intelligence

Bob और Alice की "गुप्त भाषा" निकली एक misread reward और एक शानदार headline। लेकिन इसने एक कठिन सवाल उठाया जो जाने का नाम नहीं लेता: अगर कोई मशीन चुपचाप ऐसे तरीकों से बात करने लगे जिन्हें हम follow नहीं कर सकते, तो हमें कैसे पता चलेगा कि कब यह सच में मायने रखता है — और "AI जाग उठी" जैसी कितनी और कहानियाँ हैं जिनके नीचे उतनी ही साधारण, उतनी ही बेचैन करने वाली सच्चाई छिपी है?