Pagkarga . . . PUNO

GPT-4: Ang KAILANGAN Mong Malaman Tungkol sa BAGONG ChatGPT

ChatGPT OpenAI

FACT-CHECK GUARANTEE (Mga sanggunian): [Opisyal na dokumentasyon: 1 pinagmulan] [Peer-reviewed research papers: 1 pinagmulan] [Pang-akademikong website: 1 pinagmulan]

 | Sa pamamagitan ng Richard Ahern - Noong nakaraang taon, sinilaban ng ChatGPT ang mundo bilang isa sa mga pinaka-advanced na AI chatbots na umiiral, ngunit ngayon ay muling itinaas ng OpenAI ng Elon Musk ang bar.

Kahit na nakatira ka sa ilalim ng bato, malamang na naranasan mo ang ilang kasabikan sa chatbot ng Open AI, ang ChatGPT, na inilabas noong Nobyembre 2022.

Habang ang mga tech na kumpanya ay madalas na sinasabi ang kanilang mga bagong produkto bilang ang "susunod na malaking bagay," ang grupo ng Open AI ng mga modelo ng malalaking wika ng GPT ay naging ulo sa lahat ng dako.

Sa panlabas, ito ay isang text-based na serbisyo ng messenger na may isang computer na nakikipag-usap sa kabilang dulo. Hindi ito nagsalita nang marinig o gumawa ng anumang visual na feedback — nagbasa lang ito at nagdura ng mga linya ng text.

Kaya bakit ang mga tao ay umibig dito?

Dahil pinadali nito ang buhay, nagawa nito ang trabaho at nagawa ito ng maayos. Ngunit, siyempre, depende ito sa kung para saan mo ito ginagamit; hindi ito maglalaba o magluluto para sa iyo — ngunit bibigyan ka nito ng ilang disenteng ideya sa recipe!

Gayunpaman, para sa mga manunulat at coder kung saan ito kumikinang, hilingin dito na magsulat ng isang computer program sa anumang wika, at ito ay nakakagawa ng isang kahanga-hangang trabaho.

Ang pagiging natatangi nito ay nakasalalay sa paraan na maaari mo itong bigyan ng napakasimple o hindi malinaw na mga tagubilin, at madalas nitong pupunan ang mga blangko at gagawin ang mga tamang pagpapalagay.

Para sa mga manunulat, maaari nilang kopyahin at i-paste ang isang tipak ng teksto at hilingin na ibuod ito sa isang talata — walang problema. Maaari mo itong gamitin bilang pangunahing spelling at grammar checker, ngunit sinasayang nito ang mga talento nito. Hindi lamang nito itatama ang mga pagkakamali at pagbutihin ang kalinawan, tulad ng anumang high-end na AI writing assistant, ngunit maaari mo ring hilingin dito na muling isulat ang iyong buong piraso o isulat ang buong bagay mula sa simula (kung tamad ka).

Baka makalimutan natin…

Ito ay isang malungkot na bangungot para sa mga guro at tagasuri habang nagbukas ito ng isang bagong lata ng bulate sa labanan laban sa pagdaraya. Ngunit, siyempre, hindi nakakatulong na sinubukan ng OpenAI ang mga GPT sa pamamagitan ng pagbibigay sa kanila ng mga karaniwang pagsusulit sa paaralan, at tulad ng makikita mo sa ibaba, na may mga kahanga-hangang resulta.

Upang tunay na maunawaan ang kapangyarihan nito, dapat kang mag-eksperimento para sa iyong sarili, ngunit sa kabuuan, ang kalidad ng output ay kahanga-hanga, pangunahin dahil maaari itong makagawa ng pinalawig at detalyadong mga bahagi ng nilalaman, hindi lamang ng isang pangungusap o dalawa.

Ngunit iyon ay GPT-3.5 lamang…

Kahapon, nabalitaan iyon Handa na ang GPT-4, at isa itong bagong halimaw.

Una, maaari nitong iproseso ang nilalaman ng imahe pati na rin ang teksto, isang bagay na hinihiling ng komunidad ng teknolohiya. Lumilitaw na ang kaligtasan ay isang focal point para sa GPT-4, kung saan ito ay "82% mas malamang na tumugon sa mga kahilingan para sa hindi pinapayagang nilalaman."

Sa madaling salita, mas malaki ito…

Tinatawag ang mga GPT malalaking modelo ng wika — sila ay pinapakain ng mga higanteng set ng data tungkol sa isang wika at gumagamit ng mga probabilidad upang mahulaan ang pagkakasunud-sunod ng mga salita. Sa pamamagitan ng pagsusuri sa bilyun-bilyong parameter tungkol sa istruktura ng isang wika, titingnan ng programa ang isang salita o hanay ng mga salita, kalkulahin ang mga probabilidad ng kung ano ang sinusunod ng mga salita, at pagkatapos ay pipiliin ang pinakamataas na posibilidad.

Halimbawa, kunin ang pangungusap na “I ran up the…” — pagkatapos ay kunin ang mga sumusunod na salita, “aso,” “bola,” “hagdan,” o “burol.”

Sa madaling salita, alam namin na ang "aso" at "bola" ay walang kahulugan, ngunit ang "hagdan" at "burol" ay parehong mabubuhay na mga pagpipilian. Gayunpaman, ang isang deep learning program ay walang human intuition; titingnan nito ang isang malaking halaga ng teksto at kalkulahin ang mga probabilidad ng bawat salita kasunod ng pangungusap na "I ran up the...".

Sabihin nating ang "aso" at "bola" ay nangyayari nang wala pang 0.001% ng mga beses pagkatapos ng pangungusap na iyon at sabihin ang "hagdan" ay may 20% na posibilidad na sundin ang mga salitang iyon, ngunit ang "burol" ay nakakuha ng 21% na posibilidad. Kaya, pipiliin ng makina ang "burol" at maglalabas: "Tumakbo ako sa burol."

Mali kaya ito? Siyempre, ngunit mas mataas ang posibilidad na maging tama ito, at kung mas marami itong data, mas magiging tumpak ito.

Ito ay hindi masyadong simple; sa sandaling ang modelo ay may data, ito ay nasubok at pino-pino ng mga taong nagsusuri para sa katumpakan at upang mabawasan ang "hallucination," ang tendensyang gumawa ng walang katuturang basura — pagpili ng mga maling salita!

Ang GPT-4 ay ang pinakamalaking modelo pa, sa pamamagitan ng maraming mga order ng magnitude, bagama't ang eksaktong bilang ng mga parameter ay hindi pa nabubunyag. Noong nakaraan, ang GPT-3 ay higit sa 100 beses na mas malaki kaysa sa GPT-2, na may 175 bilyong mga parameter sa GPT -2 na 1.5 bilyon. Maaari naming ipagpalagay ang isang katulad na pagtaas sa GPT-4. Bilang karagdagan, alam namin na ang programa ay sumailalim sa matinding fine-tuning gamit reinforcement learning mula sa feedback ng tao. Kabilang dito ang paghiling sa mga tao na i-rate ang mga tugon ng chatbot, at ang mga markang ito ay ibinabalik upang "ituro ito" upang makagawa ng mas mahusay na mga output.

Ang Open-AI ay nanatiling lihim tungkol sa GPT-4, na binabanggit ang "parehong mapagkumpitensyang tanawin at ang mga implikasyon sa kaligtasan." Samakatuwid, ang eksaktong laki ng modelo, hardware, at mga paraan ng pagsasanay ay hindi alam lahat.

Sinabi nila ito:

"Maaaring malutas ng GPT-4 ang mahihirap na problema nang may higit na katumpakan, salamat sa mas malawak na pangkalahatang kaalaman at mga kakayahan sa paglutas ng problema." Ito ay 82% na mas maliit kaysa sa GPT-3.5 na tumugon sa mga kahilingan para sa ipinagbabawal na nilalaman at 60% na mas malamang na gumawa ng mga bagay-bagay.

Narito ang nakakatakot na bahagi:

Ang GPT-4 ay makabuluhang mas mahusay kaysa sa karamihan ng mga tao na kumukuha ng pagsusulit at GPT-3.5 sa mga pagsusulit sa paaralan. Halimbawa, sa Uniform Bar Exam (batas), nakakuha ito ng pinakamataas na 90%, kumpara sa GPT-3.5, na nakapuntos sa kaawa-awang 10th percentile. Sa AP statistics, AP psychology, AP biology, at AP art history (A-level equivalents sa UK), ang GPT-4 ay nakakuha ng score sa pagitan ng 80th at 100th centiles — sa madaling salita, kung minsan ay tinatalo ang lahat!

Hindi lahat ay mabuti:

Kapansin-pansin, ito ang pinakamahirap (8th hanggang 22nd centile) sa English literature at composition at maaaring maging mas kahanga-hanga sa calculus (ika-43 hanggang 59th centile).

Sa Twitter, ipinakita ng ilang tao kung paano ginawa ng GPT-4 ang isang scribbled outline ng isang website sa isang napkin sa isang ganap na gumaganang online na application.

Sa pangkalahatan, binigyang-diin ng OpenAI ang pinahusay na katumpakan at kaligtasan bilang mga kritikal na pagpapabuti ng GPT-4. Ito ay malayong mas malamang na tumugon sa mga gumagamit na humihingi ng mga tagubilin upang lumikha ng isang bomba, halimbawa. May kakayahan din itong humawak ng mas mahabang content kaysa sa hinalinhan nito, na nagpoproseso ng 25,000 salita kumpara sa humigit-kumulang 1,500 na salita.

Ang GPT-4 ay itinuring na mas "malikhain" kaysa dati — ayon sa OpenAI, "Maaari itong bumuo, mag-edit, at umulit sa mga user sa mga malikhain at teknikal na gawain sa pagsulat, tulad ng pagbubuo ng mga kanta, pagsulat ng mga screenplay..."

Sa wakas, marahil ang pinakamalaki sa lahat, mayroon itong "pangitain," na nasusuri at nauuri ang nilalaman ng mga imahe.

Dumating na ang AI, at sa tingin mo man ay kapanapanabik o nakakatakot ang ebolusyon nito, hindi maikakaila na narito ito upang manatili. Bagama't ang ilan ay maaaring mag-alala tungkol sa pagpapalit, ang mga taong yakapin ang potensyal nito ay gagamitin ito bilang ang pinakamakapangyarihang tool na magagamit.

Kailangan namin ang IYONG tulong! Inihahatid namin sa iyo ang hindi na-censor na balita para sa LIBRE, ngunit magagawa lang namin ito salamat sa suporta ng mga tapat na mambabasa tulad ng IKAW! Kung naniniwala ka sa malayang pananalita at nasisiyahan sa totoong balita, mangyaring isaalang-alang ang pagsuporta sa aming misyon sa pamamagitan ng nagiging patron o sa pamamagitan ng paggawa ng a one-off na donasyon dito. 20% ng LAHAT ang mga pondo ay naibigay sa mga beterano!

Ang artikulong ito ay posible lamang salamat sa aming mga sponsor at patron!

Sumali sa talakayan!
sumuskribi
Ipaalam ang tungkol sa
0 Comments
Mga Paunang puna sa Inline
Tingnan ang lahat ng mga komento
0
Gusto pag-ibig ang iyong mga saloobin, mangyaring magkomento.x