Kontentke ótiw

GPT-4

Wikipedia, erkin enciklopediya

Generativ Aldınnan Tayarlanǵan Transformator 4 (GPT-4) (ingl. Generative Pre-trained Transformer 4)OpenAI tárepinen jaratılǵan hám GPT negizgi modelleri seriyasınıń tórtinshisi bolǵan multimodal úlken til modeli.[1] Ol 2023-jıl 14 martta iske qosıldı hám OpenAI API arqalı,[1] biypul chatbot ónimi Microsoft Copilot hám pul tólenetuǵın chatbot ChatGPT Plus arqalı hámmege qoljetimli boldı.[2] Transformatorǵa tiykarlanǵan model retinde, GPT-4 keyingi tokendi boljaw ushın “úshinshi tárep provayderlerinden licenziyalanǵan maǵlıwmatlar” menen birgelikte, hámmege ashıq maǵlıwmatlardan paydalanatuǵın aldınnan oqıtıwdı qollanatuǵın paradigmaǵa súyenedi. Bul basqıshdan keyin, model adamlar menen JI tárepinen berilgen kúsheytilgen oqıtıw keri baylanısları menen adam sáykesligi hám siyasatqa sáykesligi ushın dál sazlandı. 

Baqlawshılar GPT-4-ti qollanıw arqalı ChatGPT-diń iteraciyası GPT-3.5 tiykarındaǵı aldınǵı iteraciyanıń jaqsılanıwı boldı, usı ret GPT-4 aldınǵı redaktorlardaǵı ayırım máselelerdi saqlaydı degen eskertiw bar.[3] Kóriw imkaniyatı menen (GPT-4V) úskenelengen[4] GPT-4 ChatGPT-ge kiris retinde súwretlerdi qabıllawǵa uqıplı.[5] OpenAI GPT-4 tuwralı hár túrli texnikalıq maǵlıwmatlar menen statistikanı, mısalı modeldiń anıq ólshemin ashıwdan basladı.[6]

OpenAI 2018 jılı birinshi GPT modelin (GPT-1) tanıstırıp, “Generativ aldınnan oqıtıw arqalı tildi túsiniwdi jaqsılaw” atlı maqalanı járiyaladı[7] Ol transformator arxitekturasına tiykarlanǵan hám kitaplardıń úlken korpusında oqıtıldı.[8] Keyingi jılı olar GPT-2 modelin usındı, ol kogerent tekst jarata aladı.[9] 2020 jılı olar GPT-2 den 100 ese kóp parametri bar GPT-3 modelin usındı, ol hár túrli tapsırmalardı bir neshe mısallar menen orınlay aladı. GPT-3 onnan keyin GPT-3.5-ke jetilistirildi, ol ChatGPT chatbot ónimin jaratıw ushın paydalanıldı.

Mısh-mıshlar GPT-4-tiń 1.76 trillion parametrge iye ekenin aytadı, onı dáslep jumıs islew tezligi menen Djordj Xoc bahaladı.[10]

Múmkinshilikleri

[redaktorlaw | derekti redaktorlaw]

OpenAI GPT-4 “isenimli, kreativ hám GPT-3.5-ke qaraǵanda álleqayda tolıq kórsetpelerdi qayta islewge uqıqplı” ekenin ayttı.[11] Olar GPT-4-tiń eki versiyasın shıǵardı, kontekstli aynaları 8,192 hám 32,768 tokenleri bar, GPT-3.5 hám, GPT-3-ten aytarlıqtay jaqsılandı, olar sáykesinshe 4,096 hám 2,049 tokenler menen sheklendi.[12] GPT-4 múmkinshilikleriniń geybirin OpenAI onı shınıqtırıwdan aldın boljadı degen menen basqa imkaniyatlardı tómengi aǵımdaǵı masshtablaw nızamlarındaǵı úzilislerge baylanıslı boljaw qıyın bolıp qaldı. Aldınǵı modellerden ayırmashılıǵı, GPT-4 multimodal model bolıp tabıladı: ol kirgiziw retinde tekst penen qatar súwretlerdi de qabıllay aladı;[13] bul oǵan ádetten tıs súwretlerdi yumordı táriyiplewge, skrinshotlardaǵı tekstti ulıwmalastırıwǵa hám diagrammaları bar imtixan sorawlarına juwap beriwge imkaniyat beredi.[14] Ol endi paydalanıwshılar menen awızsha sózler arqalı óz-ara háreketlese aladı hám súwretlerge juwap bere aladı, bul tábiyiy sóylesiwge hám fotosúwretlerdi júklep salıw tiykarında usınıslar yamasa juwap beriwge imkaniyat beredi.[15]

GPT-4-ti jáne de baqlawǵa alıw ushın OpenAI “sistema xabarın” engizdi, ol GPT-4-ke beriletuǵın tábiyiy tildegi kórsetpe bolıp, onıń dawıs tonın hám wazıypasın anıqlawǵa imkaniyat beredi. Mısalı, sistema xabarında modelge “Shekspir qaraqshı bolıw” tuwralı kórsetpe bere aladı, bul jaǵdayda ol rifmalıq, Shekspir prozası menen juwap beredi yamasa onnan “bárqulla [onıń] juwabın JSON formatında jazıń” dep sorawǵa boladı, onda model juwap strukturasına sáykes keliw ushın giltler hám mánislerdi qosadı. OpenAI tárepinen berilgen mısallarda GPT-4 sóylesiw waqtında paydalanıwshı tárepinen basqa usıl menen ámelge asırıw sorawlarına qaramastan, óziniń sistema xabarınan shetke shıǵıwdan bas tarttı.[14]

Kórsetpe berilgende, GPT-4 sırtqı interfeysler menen háreketlese aladı.[16] Mısalı, modelge veb-izlewdi orınlaw ushın <search></search> tegleriniń ishine sorawdı qosıwǵa kórsetpe beriliwi múmkin, onıń nátiyjesi juwap qáliplestiriwge múmkinshilik beriw ushın model sorawına ornatıladı. Bul modelge API interfeyslerin paydalanıw, súwretlerdi jaratıw hám veb-betlerge kiriw hám juwmaqlaw sıyaqlı ápiwayı tekstti boljaw imkaniyatlarınan tıs tapsırmalardı orınlawǵa imkaniyat beredi.

2023 jılı Nature jurnalında járiyalanǵan maqalasında baǵdarlamashılar GPT-4-ti kodlaw tapsırmalarına (qáte beyimliligine qaramastan) járdemlesiw ushın paydalı dep taptı, mısalı bar kodtaǵı qátelerdi tabıw hám ónimlilikti jaqsılaw ushın optimallastırıwdı usınıw. Maqalada óziniń baǵdarlamasınıń birin MATLAB-tan Python-ǵa kóshiriw ushın kerekli waqıt kúnlerden “bir saatqa yamasa onnan da kóp” qısqarǵanın anıqlaǵan biofiziktiń sózi keltirilgen. 89 qáwipsizlik scenariyin testlew gezinde GPT-4 5% waqtında SQL inyekciyalıq hújimlerine hálsiz kodtı shıǵardı, bul 2021 jıldan baslap GitHub Copilot penen salıstırǵanda jaqsılaw, bul waqıttıń 40% hálsizlikti payda etti.[17]

2023 jıl noyabrde OpenAI GPT-4 Turbo hám GPT-4 Turbo with Vision modellerin járiyaladı, ol 128K kontekstli aynası bar hám aytarlıqtay arzan baha menen ózgeshelenedi.[18][19]

Sonday-aq qarań

[redaktorlaw | derekti redaktorlaw]
  1. 1,0 1,1 Edwards. „OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks“. Ars Technica (14-mart 2023-jıl). 14-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 15-mart 2023-jıl.
  2. Wiggers. „OpenAI makes GPT-4 generally available“ (en-US). TechCrunch (6-iyul 2023-jıl). 16-avgust 2023-jılda túp nusqadan arxivlendi. Qaraldı: 16-avgust 2023-jıl.
  3. "If your AI model is going to sell, it has to be safe". https://www.vox.com/future-perfect/2023/3/25/23655082/ai-openai-gpt-4-safety-microsoft-facebook-meta. 
  4. „GPT-4V(ision) system card“ (en-US). OpenAI. Qaraldı: 5-fevral 2024-jıl.
  5. "The New ChatGPT Can 'See' and 'Talk.' Here's What It's Like.". https://www.nytimes.com/2023/09/27/technology/new-chatgpt-can-see-hear.html. 
  6. Vincent. „OpenAI co-founder on company's past approach to openly sharing research: "We were wrong"“. The Verge (15-mart 2023-jıl). 17-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 18-mart 2023-jıl.
  7. Radford. „Improving Language Understanding by Generative Pre-Training“ (11-iyun 2018-jıl). 26-yanvar 2021-jılda túp nusqadan arxivlendi. Qaraldı: 3-aprel 2023-jıl.
  8. Khandelwal. „How Large Language GPT models evolved and work“ (1-aprel 2023-jıl). 4-aprel 2023-jılda túp nusqadan arxivlendi. Qaraldı: 3-aprel 2023-jıl.
  9. „What is GPT-4 and Why Does it Matter?“ (3-aprel 2023-jıl). 3-aprel 2023-jılda túp nusqadan arxivlendi. Qaraldı: 3-aprel 2023-jıl.
  10. Schreiner. „GPT-4 architecture, datasets, costs and more leaked“ (en-US). THE DECODER (11-iyul 2023-jıl). 12-iyul 2023-jılda túp nusqadan arxivlendi. Qaraldı: 12-iyul 2023-jıl.
  11. Wiggers. „OpenAI releases GPT-4, a multimodal AI that it claims is state-of-the-art“. TechCrunch (14-mart 2023-jıl). 15-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 15-mart 2023-jıl.
  12. OpenAI. „Models“. OpenAI API. 17-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 18-mart 2023-jıl.
  13. Alex Hern. „OpenAI says new model GPT-4 is more creative and less likely to invent facts“. The Guardian (14-mart 2023-jıl). 15-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 15-mart 2023-jıl.
  14. 14,0 14,1 OpenAI. „GPT-4“. OpenAI Research (14-mart 2023-jıl). 14-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 20-mart 2023-jıl. Silteme kórsetiwdegi qátelik: Invalid <ref> tag; name "openai_research" defined multiple times with different content
  15. Metz. „ChatGPT Can Now Respond With Spoken Words“. The New York Times (25-sentyabr 2023-jıl).
  16. „ChatGPT plugins“ (en-US). openai.com. 23-mart 2023-jılda túp nusqadan arxivlendi. Qaraldı: 1-iyun 2023-jıl.
  17. Perkel, Jeffrey M. (5 June 2023). "Six tips for better coding with ChatGPT" (in en). Nature 618 (7964): 422–423. doi:10.1038/d41586-023-01833-0. PMID 37277596. https://www.nature.com/articles/d41586-023-01833-0. Retrieved June 15, 2023. 
  18. „New models and developer products announced at DevDay“ (en-US). openai.com. 14-noyabr 2023-jılda túp nusqadan arxivlendi. Qaraldı: 14-noyabr 2023-jıl.
  19. David. „OpenAI turbocharges GPT-4 and makes it cheaper“. The Verge (6-noyabr 2023-jıl). Qaraldı: 23-yanvar 2024-jıl.
Silteme kórsetiwdegi qátelik: <ref> tag with name "nyt-3" defined in <references> is not used in prior text.