ওল্লামা এআই: টার্মিনালে কৃত্রিম বুদ্ধিমত্তা

ChatGPT এর আবির্ভাবের পর থেকে, অনেক টুলস আবির্ভূত হয়েছে যার ব্যবহারকারীর গোপনীয়তার প্রতি সম্মান সন্দেহজনক। সৌভাগ্যবশত, বেশ কয়েকটি ওপেন সোর্স প্রকল্প এটির প্রতিকারের জন্য উপস্থিত হয়েছিল। ওল্লামা এআই টার্মিনালে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করার একটি টুল

অ্যাপ্লিকেশন হবে আপনার কম্পিউটার টার্মিনাল বা একক বোর্ড ডিভাইসে LLM-এর একটি তালিকা ব্যবহার করার অনুমতি দেয় যতক্ষণ না আপনার হার্ডওয়্যার যথেষ্ট শক্তিশালী। ভাল জিনিস হল যে তাদের লাইব্রেরিতে সব আকারের জন্য বিকল্প আছে।

এলএলএম (লার্জ স্কেল ল্যাঙ্গুয়েজ মডেল) এমন একটি স্তরে ভাষা তৈরি এবং অনুবাদ করা বোঝার জন্য ব্যবহৃত হয় যা প্রাকৃতিক ভাষার কাছাকাছি। তারা প্রচুর পরিমাণে পাঠ্য ডেটা দিয়ে প্রশিক্ষিত হয়। এই মডেলগুলি বিভিন্ন ধরনের ভাষা-সম্পর্কিত কাজের জন্য ব্যবহার করা যেতে পারে, যেমন প্রশ্নের উত্তর দেওয়া, টেক্সট সংক্ষিপ্ত করা, অন্যান্য ভাষায় অনুবাদ করা, সুসংগত এবং সৃজনশীল বিষয়বস্তু তৈরি করা, বাক্য সমাপ্ত করা এবং ভাষার নিদর্শন খোঁজা।

অভিব্যক্তি "বড় স্কেল" বিপুল পরিমাণ ডেটা (বিলিয়ন) এবং মডেলটি ডেটার মধ্যে সম্পর্ক স্থাপন এবং প্যাটার্ন খুঁজে পেতে যে প্যারামিটার ব্যবহার করে উভয়কেই বোঝায়।

পরামিতিগুলি বিবেচনায় নেওয়ার একটি ফ্যাক্টর। যদিও এমন কেউ আছেন যারা রাস্পবেরি পাই 4 এ ওল্লামা এআই ব্যবহার করেছেন বলে অভিযোগ করেছেন, আপনার যদি পর্যাপ্ত স্মৃতি না থাকে তবে সমস্ত মডেল ব্যবহার করা যাবে না। আমি 7 গিগাবাইট র‌্যাম সহ 6 বিলিয়ন প্যারামিটার সহ এবং গ্রাফিক্স কার্ড ছাড়াই সিস্টেমের কার্যকারিতাকে খুব কমই প্রভাবিত না করে মডেলগুলি ব্যবহার করেছি, তবে এটি 13 এর সাথে একটি পরিচালনা করতে পারেনি।
কম প্যারামিটার সহ মডেলগুলি ইয়াঙ্কি ট্যুরিস্ট প্যারোডি স্তরে স্প্যানিশ ভাষায় কথা বলে এবং তাদের প্রতিক্রিয়াগুলিতে খুব সুনির্দিষ্ট নয়, তাই সেগুলি ব্যবহার করার সময় আপনার সতর্ক হওয়া উচিত।

ওল্লামা এআই: টার্মিনালে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করুন

চালিয়ে যাওয়ার আগে, একটি সংক্ষিপ্ত ব্যাখ্যা দিয়ে শুরু করা যাক। LlaMa হল একটি মেশিন লার্নিং অ্যালগরিদম যা একটি কৃত্রিম বুদ্ধিমত্তাকে বস্তুর ছবি চিনতে এবং শ্রেণীবদ্ধ করতে শিখতে দেয়।

মডেল এই ধরনের তারা লেবেলযুক্ত চিত্রগুলির সাথে প্রশিক্ষিত হয় যাতে তারা নির্দিষ্ট বৈশিষ্ট্যগুলি যেমন টেক্সচার, আকৃতি এবং রঙ চিনতে শিখতে পারে যা তাদের অন্যান্য প্রসঙ্গে চিহ্নিত করতে দেয়।

যেহেতু অ্যালগরিদমের নামটি প্রাণীর নামের মতোই উচ্চারিত হয়, তাই কিছু গ্রন্থাগারের নামকরণ করা হয়েছিল একই প্রজাতির নামে যেমন ভিকুনা (ভিকুনা ভাষায় যেগুলি ñ ব্যবহার করে না) বা আলপাকা।

ওল্লামা এআই-এ ফিরে আসছি, এটি আমাদের লিনাক্স ডিস্ট্রিবিউশনের টার্মিনাল থেকে বিভিন্ন ওপেন সোর্স মডেল ডাউনলোড এবং চালানোর অনুমতি দেয়। এটি কমান্ড দিয়ে ইনস্টল করা আছে:

curl https://ollama.ai/install.sh | sh

একটি মডেল চালু করতে আমরা কমান্ড লিখি:
ollama run nombre_del_modelo

আমরা মডেল তালিকা দেখতে পারেন এখানে

উদাহরণ স্বরূপ, TinyLlaama ইনস্টল করার জন্য, একটি মডেল যার মাত্র এক টেরাবাইটের পরামিতি রয়েছে, আমরা কমান্ডটি ব্যবহার করি:

ollama run tinyllama

প্রথমবার এই কমান্ডটি কার্যকর করা হলে মডেলটি কম্পিউটারে ডাউনলোড করা হয়। দয়া করে মনে রাখবেন যে কিছু কিছু ডিস্কের বেশ কয়েকটি গিগাবাইট স্থান নেয়।

আপনি কমান্ড দিয়ে একটি মডেল মুছে ফেলতে পারেন:
ollama rm nombre_del modelo

ইনস্টল করা মডেলের তালিকা দেখতে কমান্ডটি ব্যবহার করুন:
ওল্লামা তালিকা

আপনি এর সাথে ইনস্টল করা প্রতিটি মডেল সম্পর্কে তথ্য দেখতে পারেন:
ollama show

ওল্লামা মডেল লাইব্রেরির একটি আকর্ষণীয় বিকল্প হল তথাকথিত "অসেন্সরড"।. সর্বাধিক পরিচিত কৃত্রিম বুদ্ধিমত্তা মডেলগুলি শুধুমাত্র আইনের সাথে নয়, রাজনৈতিক সঠিকতার সামাজিক চাপের সাথে সম্মতি দেওয়ার জন্য নির্দিষ্ট ধরণের প্রশ্নগুলিতে সীমাবদ্ধতা রাখে।

আমার মনে আছে যে অনেক দিন আগে আমি মাইক্রোসফটের চ্যাটজিপিটি-ভিত্তিক সহকারী কপিলটকে আমাকে আইসবার্গ জোকস বলতে বলেছিলাম। তিনি আমাকে বলেছিলেন যে পরিবেশগত বিপর্যয়গুলি নিয়ে রসিকতা করার মতো বিষয় খুবই গুরুতর।

সেন্সরবিহীন মডেল তারা সেই উপলক্ষগুলি সনাক্ত করে যখন AIs বেস মডেলগুলি থেকে সাড়া দিতে বা পক্ষপাতদুষ্ট প্রতিক্রিয়া দিতে অস্বীকার করে, সেগুলি সরিয়ে দেয় এবং সিস্টেমকে সঠিকভাবে প্রতিক্রিয়া জানাতে প্রশিক্ষণ দেয়।

সীমিত পরিমাণ RAM সহ এবং ডেডিকেটেড গ্রাফিক্স কার্ড ছাড়া কম্পিউটারে ওল্লামা এআই কতটা কার্যকর হতে পারে তা জানতে আমাকে আরও পরীক্ষা করতে হবে। যাই হোক না কেন, এটা জেনে রাখা ভালো যে ওপেন সোর্স বিকল্প তাদের পথ তৈরি করছে এবং সেন্সরশিপ বাদ দেওয়ার অনুমতি দিচ্ছে।