Ni DHH noong
Ang Omacom Foundation magiging premier sponsor ng gawain ni 0xSero sa lokal na AI
Ang Omacom Foundation ay magiging premier sponsor ng gawain ni 0xSero sa lokal na AI sa susunod na tatlong taon, sa pamamagitan ng kanyang kumpanyang Sybil Solutions!
Makikipagtulungan kami para paganahin nang maayos ang mga lokal na modelo sa Omarchy mula pa sa simula. Ang pagpili ng modelong babagay sa iyong machine, pag-tune nito para masulit ang hardware, at pagkonekta nito sa iyong mga agent ay dapat maging isang magandang unang karanasan. Sa ngayon, masyado pa ring maraming kailangang aralin sa pagitan ng pagbili ng isang malakas na computer at pagpapagana ng talino nito. Gusto naming punan ang agwat na iyon.
Nagtatrabaho na si Sero sa mismong mga problemang ito. Pinagsasama-sama ng kanyang Local AI Registry ang mga model configuration, mga recipe na akma sa partikular na hardware, at mga sukat ng performance. Iyan ang uri ng praktikal na kaalaman na kailangan naming gawing magagandang default. Hindi mo dapat kailangang maging isang inference engineer para lang mapagana ang isang kapaki-pakinabang na lokal na modelo sa sarili mong computer.
At hindi kailangang mag-isang gawin ng sarili mong computer ang lahat ng trabaho. Gusto rin naming gawing madali ang pagkonekta sa hardware na pag-aari mo bilang isang mesh ng katalinuhan. Ang laptop mo, ang malakas na desktop sa opisina mo, isang machine na nakatabi sa bahay. Hayaang gamitin ng iyong mga agent ang mga computer na available sa iyo, nang hindi mo muna kailangang magpatakbo ng isang maliit na data center.
Malaking bahagi ito ng kung paano ko nakikitang matutupad ang pangako ng agentic OS. Sa hardware tulad ng N1x ng NVIDIA at ng paparating na Qwen Book ng Alibaba, patungo tayo sa mundong kung saan ang malalakas na lokal na AI machine ay mga ordinaryong personal na computer. Dapat gawing available ng operating system ang kapangyarihang iyon mula sa sandaling simulan mo itong gamitin.
Sa tingin ko, malapit na ang panahon na ang lahat ay magkakaroon ng access sa maayos na katalinuhan sa bahay. Mga modelong makakatulong sa iyo sa pagsusulat ng code, pagtatrabaho sa iyong mga dokumento, at pagsasagawa ng mga kapaki-pakinabang na gawain sa hardware na kontrolado mo. Isang magandang alternatibo sa mga frontier model at sa subscription-based na katalinuhan para sa parami nang paraming gawaing talagang ginagawa ng mga tao.
Gustung-gusto ko ang kayang gawin ng mga frontier model, at patuloy na gagawing madali ng Omarchy ang paggamit sa mga ito. Pero gusto ko rin na may pagpipiliang magpatakbo ng katalinuhang hindi umaasa sa buwanang subscription o sa pagpapadala ng aking trabaho sa mga server ng ibang tao. Ang kakayahang bumili ng computer at patuloy itong mapakinabangan ay isa sa mga magagandang bagay tungkol sa personal computing. Dapat mailapat din ito sa mga agent.
Ang pagsuporta kay Sero sa loob ng tatlong taon ay magbibigay sa amin ng oras para pagtrabahuhan ang buong karanasan: ang mga modelo, ang pag-tune, ang mga koneksyon sa pagitan ng mga machine, at ang mga default na ginagawang madaling lapitan ang lahat. Nasasabik akong makita kung gaano pa namin ito mapapabuti nang magkasama.
Salamat sa aming mga patron sa paggawang posible ng sponsorship na ito. Ang kanilang suporta ay nagbibigay-daan sa amin na bigyan ang mga developer ng oras at mga resource para pagtrabahuhan ang kinabukasang gusto namin para sa Linux. Nagpapasalamat kami sa kanilang patronage.
Ilagay natin ang mas maraming katalinuhan sa mga kamay ng mga taong nagmamay-ari ng mga computer!