ARC-AGI বেঞ্চমার্ক

কম্পিউটিং পাওয়ারের দামের ক্রমাগত পতন—প্রতি দশকে দুই ক্রমিক মাত্রা—২০১০ সাল থেকে গভীর শিক্ষার মডেলগুলিকে ব্যাপকভাবে উৎসাহিত করেছে। বৃহত্তর নেটওয়ার্ক এবং আরও ডেটা আপাতদৃষ্টিতে নির্ভরযোগ্যভাবে সাধারণ মানদণ্ডে উচ্চতর স্কোর প্রদান করেছে—এবং এই আশা জাগিয়ে তুলেছে যে শুধুমাত্র স্কেলিং অনিবার্যভাবে AGI-এর দিকে পরিচালিত করবে। ২০১৯ সালের প্রথম দিকে, ফ্রাঁসোয়া চোলেট ARC-AGI বেঞ্চমার্ক চালু করেছিলেন। বুদ্ধিমত্তা পরিমাপ করার জন্য।


MMLU বা HELM-এর মতো পরীক্ষাগুলি মূলত মুখস্থ, কার্য-নির্দিষ্ট জ্ঞান পরিমাপ করে। যা অনুপস্থিত তা হল তরল বুদ্ধিমত্তার একটি সংকেত - একটি সম্পূর্ণ নতুন সমস্যা অ্যাডহক বোঝার এবং সমাধান করার ক্ষমতা। ARC-AGI-1 ("কৃত্রিম সাধারণ বুদ্ধিমত্তার জন্য সারাংশ এবং যুক্তি কর্পাস") তে 1,000টি অনন্য কাজ রয়েছে যা "শেখা" যায় না।

প্রতিটি ধাঁধা নতুন, শুধুমাত্র মৌলিক দৈনন্দিন জ্ঞানের (বস্তু, গণনা, সহজ জ্যামিতি) প্রয়োজন, এবং কিন্ডারগার্টেন স্তরের অনেক নিচে—মানুষের জন্য। বেসিক LLM থেকে ৫০,০০০ গুণ স্কেলিং লাফ দেওয়ার পরেও, হিট রেট ০% এর উপরেই রয়ে গেছে। লিডারবোর্ড ছাড়াও, আপনি সরাসরি অফিসিয়াল ওয়েবসাইটে আকর্ষণীয় চ্যালেঞ্জগুলি চেষ্টা করে দেখতে পারেন।:

২০২৪ সালের আগে একটি নতুন পদ্ধতি এই অচলাবস্থা ভেঙে ফেলেনি: টেস্ট-টাইম অ্যাডাপ্টেশন (TTA) মডেলগুলিকে রানটাইমে তাদের ওজন বা সংশ্লেষণ প্রোগ্রাম অভিযোজিত করার অনুমতি দেয়। OpenAI-এর অভ্যন্তরীণভাবে সূক্ষ্ম-সুরক্ষিত O3 এইভাবে প্রথমবারের মতো ARC1-এ মানব-স্তরের কর্মক্ষমতা প্রদর্শন করেছে। তারপর থেকে, প্রতিটি সফল ARC পদ্ধতিতে প্রোগ্রাম অনুসন্ধান থেকে শুরু করে অন-দ্য-ফ্লাই প্রশিক্ষণ পর্যন্ত কোনও না কোনও ধরণের TTA ব্যবহার করা হয়েছে।

মানুষের কর্মক্ষমতা দ্রুত ARC1-কে পরিপূর্ণ করে, তাই ARC-AGI-2-এর পরে আসে। এটি I/O ফর্ম্যাট ধরে রাখে কিন্তু প্রতিটি কাজের রচনাগত জটিলতা বৃদ্ধি করে। সান দিয়েগোতে ৪০০ জন বিষয় সমস্ত কাজ সমাধান করে; সংখ্যাগরিষ্ঠ ভোটের মাধ্যমে দশজন এলোমেলোভাবে নির্বাচিত ব্যক্তি ১০০% অর্জন করবে। TTA ছাড়া LLM ০-২% এ থাকে, কিন্তু TTA সিস্টেমগুলি এখনও মানুষের চেয়ে অনেক কম পারফর্ম করে।

ARC-AGI-3 আরও এক ধাপ এগিয়ে যায়: মডেলটিকে ইন্টারেক্টিভ, অজানা পরিবেশে ফেলে দেওয়া হয় এবং তাকে অবশ্যই তার নিজস্ব লক্ষ্য, নিয়ন্ত্রণ ব্যবস্থা এবং পদার্থবিদ্যা আবিষ্কার করতে হয়—এই সবকিছুই একটি কার্যকর ও সময়-সাশ্রয়ী পদ্ধতিতে। জুলাই ২০২৫-এ একটি ডেভেলপার প্রিভিউ প্রকাশের কথা রয়েছে। কম্পোজিশনাল জেনারেলাইজেশনে দক্ষতা অর্জনের জন্য, ভবিষ্যতের সিস্টেমগুলোকে অবশ্যই উভয় ধরণের হিউরিস্টিকসের সমন্বয় করতে হবে। কম্বিনেটোরিয়াল এক্সপ্লোশনকে নিয়ন্ত্রণে আনার জন্য এর মূল চাবিকাঠি হলো দ্রুত, আনুমানিক টাইপ ১ হিউরিস্টিকস।

ARC কোনও চূড়ান্ত লক্ষ্য হিসেবে কাজ করে না, বরং একটি দিকনির্দেশক তীর হিসেবে কাজ করে: যতক্ষণ পর্যন্ত মানুষ সহজেই এমন কাজগুলি ডিজাইন করতে পারে যা সেরা LLMরাও ব্যর্থ হয়, ততক্ষণ পর্যন্ত AGI অর্জন করা সম্ভব হয়নি। ARC2-এর অগ্রগতি—এবং শীঘ্রই ARC3-এর অগ্রগতি—দেখবে যে গভীর শিক্ষা এবং প্রোগ্রাম অনুসন্ধানের সমন্বয়ে তৈরি হাইব্রিড আর্কিটেকচারগুলি প্রয়োজনীয় স্তরের তরলতা, ডেটা- এবং কম্পিউট-দক্ষ বুদ্ধিমত্তা অর্জন করে কিনা।

পেছনে