Од појаве ЦхатГПТ-а појавило се много алата чије је поштовање приватности корисника сумњиво. На срећу, појавило се неколико пројеката отвореног кода који су ово поправили. Оллама АИ је алат за коришћење вештачке интелигенције у терминалу
Апликација хоће омогућава вам да користите листу ЛЛМ-ова на вашем рачунарском терминалу или једном уређају све док је ваш хардвер довољно моћан. Добра ствар је што њихова библиотека има опције за све величине.
ЛЛМ (Ларге Сцале Лангуаге Моделс) се користе за разумевање генерисања и превођења језика на нивоу који је близак природном језику. Они су обучени са огромним количинама текстуалних података. Ови модели се могу користити за широк спектар задатака у вези са језиком, као што су одговарање на питања, сумирање текста, превођење на друге језике, стварање кохерентног и креативног садржаја, довршавање реченица и проналажење језичких образаца.
Израз "великих размера" односи се и на огромну количину података (милијарде) и на параметре које модел користи за успостављање односа и проналажење образаца међу подацима.
Параметри су фактор који треба узети у обзир. Иако постоје они који наводе да су користили Оллама АИ на Распберри Пи 4, не могу се користити сви модели ако немате довољно меморије. Користио сам моделе са 7 милијарди параметара са 6 ГБ РАМ-а и без графичке картице, а да то није утицало на перформансе система, али није могло са оним са 13.
Модели са мање параметара говоре шпански на нивоу пародије туриста Ианкее и нису баш прецизни у својим одговорима, тако да треба да будете опрезни када их користите.
Оллама АИ: Користите вештачку интелигенцију у терминалу
Пре него што наставимо, почнимо са кратким објашњењем. ЛлаМа је алгоритам за машинско учење који омогућава вештачкој интелигенцији да научи да препознаје и класификује слике објеката.
За ову врсту модела Они су обучени са означеним сликама тако да науче да препознају специфичне карактеристике као што су текстура, облик и боја које им омогућавају да се идентификују у другим контекстима.
Пошто се име алгоритма изговара исто као и име животиње, неке библиотеке су назване по сличним врстама као што су вицуна (викуња на језицима који не користе н) или алпака.
Враћајући се на Оллама АИ, Омогућава нам да преузмемо и покренемо различите моделе отвореног кода са терминала наше Линук дистрибуције. Инсталира се помоћу наредбе:
curl https://ollama.ai/install.sh | sh
Да бисмо покренули модел, пишемо наредбу:
ollama run nombre_del_modelo
Можемо видети листу модела овде
На пример, да бисмо инсталирали ТиниЛлаама, модел са нешто више од терабајта параметара, користимо команду:
ollama run tinyllama
Први пут када се ова команда изврши, модел се преузима на рачунар. Имајте на уму да неки заузимају неколико гигабајта простора на диску.
Можете да избришете модел командом:
ollama rm nombre_del modelo
Да видите листу инсталираних модела користите команду:
оллама лист
Информације о сваком од инсталираних модела можете видети са:
ollama show
Занимљива опција из Оллама библиотеке модела су такозване „нецензурисане“.. Најпознатији модели вештачке интелигенције постављају ограничења на одређене врсте питања како би били у складу не само са законом већ и са друштвеним притисцима политичке коректности.
Сећам се да сам давно замолио Цопилота, Мицрософтовог помоћника на ЦхатГПТ-у, да ми прича вицеве о леденом бријегу, који ми је рекао да су еколошке катастрофе превише озбиљна тема да бих се шалио.
Нецензурисани модели Они идентификују прилике када АИ одбијају да реагују или дају пристрасне одговоре из основних модела, уклањају их и обучавају систем да правилно реагује.
Морао бих да урадим још тестова да бих знао колико Оллама АИ може бити користан на рачунарима са ограниченом количином РАМ-а и без наменске графичке картице. У сваком случају, добро је знати да алтернативе отвореног кода пробијају свој пут и дозвољавају да се елиминише цензура.