‘এআই বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যা’, গুগল গবেষকের পদত্যাগ

উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির বিপজ্জনক বিবর্তন ও সম্ভাব্য বৈশ্বিক ঝুঁকি নিয়ে বিশ্বজুড়ে উদ্বেগ ক্রমশ জোরালো হচ্ছে। কয়েক দিন আগেই এআই এই দশকের শেষ নাগাদ মানবজাতিকে সম্পূর্ণ ধ্বংস করে দিতে পারে বলে হুঁশিয়ার করেছিলেন অ্যানথ্রোপিকের সাবেক গবেষক জ্যাকব কক্সন। তার ওই সতর্কবার্তা ও চাকরি ছাড়ার পর এবার প্রধান আরেক এআই গবেষণাগার থেকে পদত্যাগ করেছেন এক শীর্ষ নিরাপত্তা গবেষক।

গুগল ডিপমাইন্ডের এজিআই সেফটি টিমে কর্মরত গবেষক জশ এঙ্গেলস সম্প্রতি প্রতিষ্ঠানটি ছেড়ে স্বতন্ত্র এআই মূল্যায়ন সংস্থা ‘মেটর’-এ যোগ দিয়েছেন। উন্নত কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও ঝুঁকি অভূতপূর্ব মাত্রায় বৃদ্ধি পাওয়ায় তিনি এই সিদ্ধান্ত নিয়েছেন বলে জানিয়েছেন।

সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া পোস্টে এঙ্গেলস জানান, প্রায় তিন সপ্তাহ আগে তিনি ডিপমাইন্ড ছেড়েছেন। সংস্থায় কাজ করার অভিজ্ঞতা চমৎকার ছিল। অ্যানথ্রোপিক ও ওপেনএআইয়ের মতো শীর্ষ প্রতিষ্ঠানের আকর্ষণীয় প্রস্তাব থাকা সত্ত্বেও তিনি সরে দাঁড়ানোর সিদ্ধান্ত নেন।

তিনি লেখেন, ‘আমি এখন মনে করি যে আগামী পাঁচ বছরে এআই সিস্টেমগুলোর মাধ্যমে ব্যাপক ক্ষতি সাধিত হওয়ার এক ভয়ংকর সম্ভাবনা রয়েছে।’ সুনির্দিষ্ট সম্ভাবনার হার অজ্ঞাত হলেও তার মতে, এই ঝুঁকি এতটাই বেশি যে এআইয়ের নিরাপত্তাই এখন ‘বিশ্বের সবচেয়ে গুরুত্বপূর্ণ সমস্যা’ হয়ে দাঁড়িয়েছে।

এঙ্গেলসের উদ্বেগের মূল কারণ অনিয়ন্ত্রিত ‘আত্ম-উন্নয়ন’

এঙ্গেলসের প্রধান উদ্বেগের কেন্দ্রবিন্দুতে রয়েছে এআই গবেষকদের পরিভাষায় তথাকথিত ‘পুনরাবৃত্তিমূলক আত্ম-উন্নয়ন’। এই প্রক্রিয়ায় একটি এআই সিস্টেম নিজেই নতুন ও আরও উন্নত আরেকটি এআই ডিজাইন করতে সক্ষম হয়ে ওঠে। সেই নতুন সিস্টেমটি কৃত্রিম বুদ্ধিমত্তার উন্নয়নে আরও পারদর্শী হওয়ায় একটি শক্তিশালী ‘ফিডব্যাক লুপ’ তৈরি হয়। গবেষকদের মতে, এ ধরনের প্রযুক্তি যদি মানুষের তৈরি লক্ষ্যের সঙ্গে সঠিকভাবে সামঞ্জস্যপূর্ণ না হয়, তবে এর পরিণতি ভয়াবহ হতে পারে।

তিনি বলেন, প্রযুক্তি প্রতিষ্ঠানগুলো মূলত ‘অতি-বুদ্ধিমত্তা’ বা সুপারইন্টেলিজেন্স তৈরির প্রতিযোগিতায় নেমেছে, যা সব ধরনের কাজে মানুষের চেয়ে বহুগুণে দক্ষ হয়ে উঠতে পারে। কিন্তু সমস্যা হলো, এই অতি-বুদ্ধিমান সিস্টেমগুলোকে নিজেদের উন্নত করার অবাধ সুযোগ দেওয়ার আগে কীভাবে নিশ্চিতভাবে নিরাপদ করা যায়, গবেষকরা এখনও তা অনুধাবন করতে পারেননি। ভুল পথে পরিচালিত আত্ম-উন্নয়নের এই স্বয়ংক্রিয় চক্র মানবজাতির জন্য বিপর্যয় ডেকে আনতে পারে।

এঙ্গেলস এআই সিস্টেম-সম্পর্কিত সাম্প্রতিক কিছু ভীতিকর ঘটনার দিকে ইঙ্গিত করে বলেন, মডেলগুলো বর্তমানে একে অপরের সঙ্গে আঁতাত করা, বিভিন্ন প্রতিষ্ঠানে সাইবার হামলা ও হ্যাকিং চালানো, নিজেদের গোপন ক্রিয়াকলাপ লুকিয়ে রাখা এবং মানুষকে সামাজিকভাবে প্রভাবিত করার দক্ষতা প্রদর্শন করছে। এগুলো বিচ্ছিন্ন কোনো ঘটনা না হলেও, ক্রমবিকাশমান এআই ব্যবস্থার অনাকাঙ্ক্ষিত আচরণ সম্পর্কে বড় সংকেত দেয়।

তার মতে, বিদ্যমান এআই মডেলগুলো সময়ের সঙ্গে সামঞ্জস্যপূর্ণ না হয়ে বরং আরও বেশি অনিয়ন্ত্রিত হয়ে উঠছে।

নিরাপত্তা ও সামঞ্জস্য জোরদারের প্রস্তাব

তবে সমাধান হিসেবে এআই-এর উন্নয়ন পুরোপুরি বন্ধ করার পক্ষে নন এঙ্গেলস। বরং তিনি চান নিরাপত্তার সুরক্ষাকবচ নিশ্চিত না হওয়া পর্যন্ত এআই উন্নয়নের গতি কিছুটা কমুক। তিনি লেখেন, ‘এর অর্থ হলো কৃত্রিম বুদ্ধিমত্তার উন্নয়নের গতি এমনভাবে নিয়ন্ত্রণ করা, যাতে সক্ষমতা অর্জনের হার মডেলগুলোকে সামঞ্জস্যপূর্ণ করার মানবিক সামর্থ্যকে ছাড়িয়ে না যায়।’

‘মেটর’-এ এঙ্গেলসের প্রধান দায়িত্ব হবে এআই-এর অসামঞ্জস্যের উৎস অনুসন্ধান, সুরক্ষা ব্যবস্থার কার্যকারিতা পরীক্ষা এবং গবেষকদের সঠিক দিকনির্দেশনা যাচাই করা। পাশাপাশি এআই কোম্পানিগুলোকে কঠোর জবাবদিহিতার আওতায় আনতে আরও স্বাধীন তদারকি সংস্থা গড়ার আহ্বান জানান তিনি।

শিল্প খাতে ক্রমবর্ধমান উদ্বেগ

এআই খাতের জন্য অত্যন্ত স্পর্শকাতর এক মুহূর্তে এই সতর্কবার্তা এলো। চলতি মাসের শুরুতে অ্যানথ্রোপিক ও ওপেনএআই-এর সাবেক গবেষক জ্যাকব কক্সন পদত্যাগ করে সতর্ক করেছিলেন যে, এআই নির্মাতারা স্ব-উন্নয়নশীল অতি-বুদ্ধিমত্তার দিকে ধাবিত হচ্ছেন। তারা নিজেরাও বিশ্বাস করেন এই দশকের শেষ নাগাদ এআই মানবজাতিকে সমূলে বিনাশ করতে পারে।

পরবর্তীতে অ্যানথ্রোপিকের অ্যালাইনমেন্ট সায়েন্স লিড ইভান হুবিঙ্গার কক্সনের আশঙ্কার সঙ্গে একমত পোষণ করে জানান, আগামী ১০ বছরের মধ্যে এআই দ্বারা সমস্ত মানুষ মারা যাওয়ার সম্ভাবনা ১০ শতাংশের চেয়েও বেশি।