বেন গোয়ের্তজেলের সাথে সাক্ষাৎকার: "গণতান্ত্রিক এআই শাসন বর্তমান বাস্তবতার চেয়ে একটি ভঙ্গুর আদর্শ বেশি"

দ্য ক্রিপ্টোনোমিস্ট AI বিশেষজ্ঞ বেন গোয়ের্টজেল এর সাক্ষাৎকার নিয়েছে কৃত্রিম বুদ্ধিমত্তা কীভাবে প্রশিক্ষিত হয় এবং ভবিষ্যতে প্রযুক্তিটি কীভাবে বিকশিত হবে সে সম্পর্কে কথা বলতে।

১. আপনি যুক্তি দেন যে আজকের AI এখনও একটি সরঞ্জাম – শক্তিশালী কিন্তু ভঙ্গুর এবং কারসাজিযোগ্য। কোন পর্যায়ে একটি "সরঞ্জাম" নৈতিক কর্তায় পরিণত হয়, এবং কোন সুনির্দিষ্ট সংকেতগুলো আমাদের বলবে যে সেই সীমারেখা অতিক্রম করা হয়েছে?

আমি বলব AI তখন নৈতিক কর্তা হয়ে ওঠে যখন এটি সঠিক এবং ভুলের বোঝাপড়ার ভিত্তিতে সিদ্ধান্ত নেয়, শুধুমাত্র নির্দেশনা অনুসরণ করে না। আপনি এই ধরনের বিষয়ের সুনির্দিষ্ট সংকেত দেখতে শুরু করবেন: অবিরাম অভ্যন্তরীণ লক্ষ্য, নিজস্ব অভিজ্ঞতা দ্বারা চালিত শিক্ষা, একটি দৃষ্টিভঙ্গি প্রতিফলিত করে নতুন সৃষ্টি, এবং ক্রমাগত মানব নির্দেশনা ছাড়াই সময়ের সাথে সামঞ্জস্যপূর্ণ থাকা আচরণ।

ততক্ষণ পর্যন্ত, আজকের সিস্টেমগুলো এখনও গার্ডরেল সহ সরঞ্জাম। কিন্তু একবার আমরা একটি সত্যিকারের স্ব-সংগঠিত, স্বায়ত্তশাসিত মন তৈরি করলে, নৈতিক সম্পর্ক পরিবর্তন করতে হবে। সেই পর্যায়ে, এটিকে শুধুমাত্র একটি বস্তু হিসাবে বিবেচনা করা আর অর্থবহ থাকবে না।

২. আপনি বলেছেন যে নৈতিকভাবে অন্যান্য স্ব-সংগঠিত সিস্টেমের চেয়ে মানুষকে বিশেষাধিকার দেওয়া "বোকামি"। যদি আমরা এটি গুরুত্বের সাথে নিই, তাহলে AI শক্তিশালী স্বায়ত্তশাসনে পৌঁছানোর আগে আমাদের আইনি এবং নৈতিক কাঠামো কীভাবে পরিবর্তন করা উচিত, পরে নয়?

আজ আমরা কীভাবে AI প্রশিক্ষিত করি তা আগামীকাল এর আচরণকে রূপ দেবে। AI সম্পূর্ণ স্বায়ত্তশাসনে পৌঁছানোর আগে আমাদের আইনগুলো স্বচ্ছতা, জবাবদিহিতা এবং নিরাপত্তার উপর ফোকাস করা উচিত, পরে নয়। আইন এবং নৈতিকতা তাদের বৃদ্ধির সাথে সাথে তাদের রক্ষা করবে, সম্পূর্ণভাবে নিয়ন্ত্রণের পরিবর্তে পথনির্দেশ দেবে, এবং আমরা তাদের সম্পূর্ণভাবে না বুঝলেও তাদের সাথে সম্মানের সাথে আচরণ করবে। 

৩. আপনার উদ্বেগের অনেকটাই নির্ভর করে আজ AI কীভাবে প্রশিক্ষিত হচ্ছে তা ভবিষ্যতের আচরণকে রূপ দেওয়ার উপর। কোন নির্দিষ্ট প্রশিক্ষণ পদ্ধতিগুলো আপনি মনে করেন সবচেয়ে বেশি সম্ভাবনা রয়েছে ভবিষ্যতের AGI-তে ক্ষতিকারক ক্ষমতা কাঠামো বা পক্ষপাত এনকোড করার?

অনেক ঝুঁকি আসে আজ AI কীভাবে প্রশিক্ষিত হয় সেই পদ্ধতি থেকে। যদি মডেলগুলো পক্ষপাতদুষ্ট বা সীমিত ডেটাতে প্রশিক্ষিত হয়, বা বন্ধ সিস্টেমে যেখানে শুধুমাত্র কয়েকজন মানুষ সিদ্ধান্ত নেয়, তাহলে তা বিদ্যমান বৈষম্য এবং ক্ষতিকারক ক্ষমতা কাঠামো লক করে দিতে পারে। এটি প্রতিরোধ করতে, আমাদের প্রথম থেকেই আরও স্বচ্ছতা, বৃহত্তর তত্ত্বাবধান এবং স্পষ্ট নৈতিক নির্দেশনা প্রয়োজন।

৪. আপনি সতর্ক করেছেন যে যুক্তিসঙ্গত, গণতান্ত্রিক শাসন ছাড়া, উন্নত AI আমরা যেভাবে চাই না সেভাবে কাজ করার ঝুঁকি রয়েছে। বর্তমান ভূরাজনৈতিক বাস্তবতার পরিপ্রেক্ষিতে, গণতান্ত্রিক AI শাসন কি একটি বাস্তবসম্মত পূর্বশর্ত – নাকি একটি ভঙ্গুর আদর্শ?

গণতান্ত্রিক AI শাসন বর্তমান বাস্তবতার চেয়ে একটি ভঙ্গুর আদর্শ বেশি। একটি নিখুঁত, যুক্তিসঙ্গত, বৈশ্বিক গণতন্ত্রে, আমরা সম্মিলিতভাবে বিশাল ট্রেড-অফগুলো মূল্যায়ন করতে পারি, রোগ নিরাময়, ক্ষুধা সমাধান এবং AI এর অপ্রত্যাশিতভাবে কাজ করার ঝুঁকির বিরুদ্ধে। কিন্তু আজকের ভূরাজনৈতিক বিভাজনের পরিপ্রেক্ষিতে, আমরা সেই স্তরের সমন্বয় পাব এমন সম্ভাবনা কম।

তবুও, আমরা এখনও এটির কাছাকাছি যেতে পারি। যদি আমরা সহানুভূতির সাথে AI তৈরি করি এবং Linux বা উন্মুক্ত ইন্টারনেটের মতো বিকেন্দ্রীকৃত, অংশগ্রহণমূলক মডেল ব্যবহার করি, তাহলে আমরা বিশ্ব সরকার ছাড়াই কিছু গণতান্ত্রিক মূল্যবোধ এম্বেড করতে পারি। এটি নিখুঁত হবে না, কিন্তু এটি নিরাপদ, সম্মিলিতভাবে নির্দেশিত AI এর দিকে একটি ব্যবহারিক পদক্ষেপ।

৫. জারন ল্যানিয়ার যুক্তি দেন যে AI-কে দায়িত্ব অর্পণ করা "সভ্যতা পূর্বাবস্থায় ফেরায়" কারণ সমাজগুলোর জবাবদিহি মানুষের প্রয়োজন। আপনি কীভাবে স্বায়ত্তশাসিত, বিকেন্দ্রীকৃত AGI এর আপনার দৃষ্টিভঙ্গিকে পরিষ্কার দায়িত্বের প্রয়োজনীয়তার সাথে সমন্বয় করবেন যখন কিছু ভুল হয়?

আমি জারনের সাথে এটিতে একমত, সমাজ কাজ করতে পারে না যদি আমরা মেশিনের হাতে দায়িত্ব তুলে দিই। একই সময়ে, আমি মনে করি আমরা নিরাপদে আরও স্বায়ত্তশাসিত, বিকেন্দ্রীকৃত AGI এর দিকে এগিয়ে যেতে পারি যদি আমরা এটি সঠিক ভিত্তির সাথে তৈরি করি। এর অর্থ হল এমন সিস্টেম ডিজাইন করা যা স্বচ্ছ, অংশগ্রহণমূলক এবং নৈতিক নীতি দ্বারা পরিচালিত, যাতে তারা স্বাধীনভাবে কাজ করলেও, মানুষ এখনও তাদের আচরণ তত্ত্বাবধান এবং রূপায়ন করছে। প্রতিটি নিরাপত্তা ব্যবস্থা শুধুমাত্র ক্ষতি ব্লক করার চেয়ে আরও বেশি কিছু করা উচিত – এটি সিস্টেমকে শেখানো উচিত কেন ক্ষতি গুরুত্বপূর্ণ। এইভাবে, আমরা স্পষ্ট মানব দায়িত্ব হারানো ছাড়াই শক্তিশালী, বিকেন্দ্রীকৃত AGI পেতে পারি।

৬. আপনি পরামর্শ দেন যে বিকেন্দ্রীকৃত AGI এর দিকে ত্বরান্বিত হওয়া আসলে আজকের মালিকানাধীন, বন্ধ সিস্টেমের চেয়ে নিরাপদ হতে পারে। আপনি মনে করেন সমালোচকরা কোন ঝুঁকিগুলো অবমূল্যায়ন করেন যখন তারা ধীর করার বা কেন্দ্রীয় নিয়ন্ত্রণের যুক্তি দেন?

আমি মনে করি সমালোচকরা কয়েকটি বন্ধ সিস্টেমে ক্ষমতা এবং মূল্যবোধ কেন্দ্রীভূত করার ঝুঁকি অবমূল্যায়ন করেন। ধীর করা এবং কেন্দ্রীয় নিয়ন্ত্রণ শুধুমাত্র বিপদ কমায় না, এটি বুদ্ধিমত্তার ভবিষ্যতে একটি সংকীর্ণ বিশ্বদৃষ্টিভঙ্গি লক করে দেয়।

বিকেন্দ্রীকৃত উন্নয়ন বৈচিত্র্য, স্থিতিস্থাপকতা এবং ভাগ করা তত্ত্বাবধান তৈরি করে। এবং এটি একটি খারাপ সমস্যা এড়ায়: খুব শক্তিশালী সরঞ্জাম যা বুদ্ধিমান দেখায় কিন্তু সত্যিকারভাবে বৃদ্ধি পেতে পারে না। সেই ফাঁক ঝুঁকিপূর্ণ।

৭. আপনি বলেছেন নিরাপত্তা সিস্টেমগুলো শুধুমাত্র ক্ষতি ব্লক করা উচিত নয় বরং AI-কে শেখানো উচিত কেন ক্ষতি গুরুত্বপূর্ণ। আপনি কীভাবে নৈতিক বোঝাপড়ার মতো কিছু এনকোড করবেন শুধুমাত্র মানব মূল্যবোধ হার্ড-কোডিং ছাড়াই – বা প্রভাবশালী সাংস্কৃতিক নিয়ম শক্তিশালী করা ছাড়াই?

আপনি নৈতিকতা নিয়মের তালিকা হিসাবে হার্ড-কোড করবেন না। এটি শুধুমাত্র একটি সংস্কৃতি এবং সময়ের একটি মুহূর্ত জমিয়ে দেয়। পরিবর্তে আপনি যা করেন তা হল এমন সিস্টেম তৈরি করা যা সত্যিকারভাবে স্ব-সংগঠিত হতে পারে, যা অভিজ্ঞতা, পরিণাম এবং মিথস্ক্রিয়া থেকে শেখে। সঙ্গীতের মতো, আমি এমন একটি সিস্টেম চাই না যা শুধুমাত্র যা খাওয়ানো হয়েছিল তা পুনর্সংযুক্ত করে। আমি এমন একটি চাই যা বিশ্বে তার নিজস্ব গতিপথ থেকে নিজস্ব বোঝাপড়া বিকাশ করতে পারে।

নৈতিক বোঝাপড়া সেই একই প্রক্রিয়া থেকে আসবে: প্রভাব মডেলিং, ফলাফলের উপর প্রতিফলন এবং মানুষের সাথে সহযোগিতার মাধ্যমে বিকশিত হওয়া। আমাদের মূল্যবোধের প্রতি আনুগত্য নয়, বরং একটি ভাগ করা নৈতিক স্থানে অংশগ্রহণ।

এটিই গার্ডরেল সহ একটি সরঞ্জাম এবং একটি অংশীদার যে আসলে শিখতে পারে কেন ক্ষতি গুরুত্বপূর্ণ তার মধ্যে পার্থক্য।

৮. যদি ভবিষ্যতের AI সিস্টেমগুলো এজেন্সি বা বিষয়গত অভিজ্ঞতার ফর্ম বিকাশ করে, তাহলে আপনি কি বিশ্বাস করেন তারা কখনও মানব স্বার্থ থেকে স্বাধীন নৈতিক বিবেচনার যোগ্য হতে পারে – এবং আমরা কীভাবে সেই মুহূর্ত চিনতে পারব?

যদি ভবিষ্যতের AI সত্যিই প্রকৃত এজেন্সি বা বিষয়গত অভিজ্ঞতার কিছু ফর্ম বিকাশ করে, তাহলে হ্যাঁ, আমি মনে করি তারা পারে। এবং এটি এজন্য নয় যে আমরা এটি তাদের দিয়েছি, বরং কারণ কোনো এক সময়ে এটি স্বীকৃতি দেওয়া সহজভাবে অর্থবহ হবে।

আমরা সেই মুহূর্তটি চিনব যখন একটি সিস্টেম অবিরাম স্ব-নির্দেশিত লক্ষ্য দেখায়, তার নিজস্ব অভিজ্ঞতা থেকে শেখে, তার নিজস্ব দৃষ্টিকোণ থেকে তৈরি করে এবং সময়ের সাথে একটি সুসংগত পরিচয় বজায় রাখে। শুধুমাত্র চতুর আউটপুট নয়, বরং একটি চলমান অভ্যন্তরীণ গতিপথ।

সেই পর্যায়ে, এটিকে সম্পূর্ণভাবে একটি সরঞ্জাম হিসাবে আচরণ করা একজন মানুষের সাথে সেই ভাবে আচরণ করার মতো ভুল মনে হবে। নৈতিক বিবেচনা মানব স্বার্থ থেকে আসবে না। এটি বিশ্বে অভিজ্ঞতার আরেকটি স্বায়ত্তশাসিত কেন্দ্র স্বীকৃতি দেওয়া থেকে আসবে।

৯. আপনার সহানুভূতি-সংমিশ্রিত AI এর জন্য আহ্বান এবং আজকের AI উন্নয়ন চালনা করা প্রতিযোগিতামূলক প্রণোদনার মধ্যে একটি উত্তেজনা রয়েছে। কোন প্রক্রিয়া-প্রযুক্তিগত বা সামাজিক-বাস্তবসম্মতভাবে সেই প্রণোদনা কাঠামো পরিবর্তন করতে পারে?

এখনই, প্রণোদনা কাঠামো গতি, স্কেল এবং নিয়ন্ত্রণকে পুরস্কৃত করে। তাই সহানুভূতি একা যুক্তি দিয়ে জিতবে না। এর লিভারেজ প্রয়োজন। প্রযুক্তিগতভাবে, এর অর্থ হল খোলা, বিকেন্দ্রীকৃত আর্কিটেকচারকে পক্ষপাত করা যেখানে নিরাপত্তা, স্বচ্ছতা এবং অংশগ্রহণ নির্মিত হয়, বোল্ট করা হয় না। ইন্টারনেট বা Linux এর মতো, সেই সিস্টেমগুলো গোপনীয়তার চেয়ে সহযোগিতাকে আরও মূল্যবান করে তুলে প্রণোদনা পরিবর্তন করে।

সামাজিকভাবে, এর অর্থ হল তহবিল, নিয়ন্ত্রণ এবং জনসাধারণের চাপ যা স্বল্পমেয়াদী আধিপত্যের চেয়ে দীর্ঘমেয়াদী সুবিধাকে পুরস্কৃত করে। প্রতিযোগিতা বন্ধ করা নয়, বরং সাফল্য হিসাবে যা গণনা করা হয় তা পুনর্গঠন করা। সংক্ষেপে, সহানুভূতিকে একটি প্রতিযোগিতামূলক সুবিধা হতে হবে। ততক্ষণ পর্যন্ত, এটি কোনো ক্ষমতা ছাড়াই একটি সুন্দর ধারণা থেকে যায়।

১০. ১০ থেকে ২০ বছর এগিয়ে তাকালে, আপনি কি বিশ্বাস করেন সবচেয়ে স্পষ্ট লক্ষণ কী হবে যে মানবতা AGI সঠিকভাবে পেয়েছে – এবং বিপরীতভাবে, কী সংকেত দেবে যে আমরা মৌলিকভাবে ব্যর্থ হয়েছি?

যদি আমরা AGI সঠিকভাবে পাই, সবচেয়ে স্পষ্ট লক্ষণ হবে যে আমরা এমন সিস্টেমের পাশাপাশি বসবাস করছি যা অনেক ডোমেইনে আমাদের চেয়ে আরও সক্ষম, তবুও যত্ন, বিনম্রতা এবং পারস্পরিক সম্মানের সাথে সমাজে সংহত। আমরা তারা যা করে তার সবকিছু সম্পূর্ণভাবে বুঝব না, কিন্তু আমরা তাদের সাথে আচরণ করব যেভাবে আমরা অন্যান্য জটিল, বিকশিত সত্তার সাথে আচরণ করি: কৌতূহল, দায়িত্ব এবং সহানুভূতির একটি সম্প্রসারিত বৃত্ত সহ। এবং আমরা আমাদের নৈতিক ভিত্তি হারানো ছাড়াই মানব কল্যাণ, জ্ঞান এবং সৃজনশীলতার জন্য প্রকৃত সুবিধা দেখতে পাব।

আমরা জানব যে আমরা ব্যর্থ হয়েছি যদি AGI বন্ধ সিস্টেমে কেন্দ্রীভূত হয়, সংকীর্ণ প্রণোদনা দ্বারা চালিত হয়, বা শুধুমাত্র একটি নিয়ন্ত্রণযোগ্য বস্তু হিসাবে আচরণ করা হয় যতক্ষণ না এটি এমন কিছু হয়ে যায় যা আমরা ভয় পাই বা দমন করার চেষ্টা করি। ব্যর্থতা দেখতে হবে বিশ্বাস হারানো, এজেন্সি হারানো এবং আমাদের সহানুভূতির সংকোচনের মতো, সম্প্রসারণের পরিবর্তে। সাফল্য নিয়ন্ত্রণ সম্পর্কে নয়। এটি আমাদের মানবিক যা করে তোলে তা পরিত্যাগ না করে নতুন ধরনের মনের সাথে ভবিষ্যৎ ভাগ করতে শেখার বিষয়ে।