Ugrás a tartalomhoz

Qwen

Ellenőrzött
A Wikipédiából, a szabad enciklopédiából
Qwen
FejlesztőAlibaba Cloud
Kategória
LicencApache Licenc 2.0
A Qwen weboldala

A Qwen (más néven Tongyi Qianwen, kínai írásjegyekkel: 通义千问) az Alibaba Cloud által kifejlesztett nagy nyelvi modellek családja. 2024 júliusában egyes benchmarkokban a legjobb kínai nyelvi modellként szerepelt, globálisan pedig a harmadik helyen állt az Anthropic és az OpenAI csúcsmodelljei mögött.[1]

Modellek

[szerkesztés | forrásszöveg szerkesztése]

Az Alibaba először 2023 áprilisában indította el a Qwen béta változatát Tongyi Qianwen néven.[2] A modell a Meta AI által kifejlesztett LLM Llama modellen alapult, különböző módosításokkal.[3] 2023 szeptemberében adták ki nyilvánosan, miután megkapta a kínai kormány jóváhagyását.[4] 2023 decemberében nyílt forráskódúvá tette a 72B és az 1,8B modelljét, míg a Qwen 7B-t augusztusban nyílt forráskódúvá tette.[5][6]

2024 júniusában az Alibaba elindította a Qwen 2-t. Szeptemberben egyes modelljeit nyílt forráskódúként adta ki,[7][8] miközben a legfejlettebb modelljeit saját tulajdonban tartotta.[9] A Qwen 2 szakértők keverékét alkalmazza.[9]

2024 novemberében az Apache 2.0 licenc alatt kiadták a QwQ-32B-Preview-t, az OpenAI o1-hez hasonló érvelésre összpontosító modellt, bár csak a súlyokat adták ki, az adatkészletet vagy a képzési módszert nem.[10][11] A QwQ 32 000 token hosszúságú kontextussal rendelkezik, és egyes benchmarkokon jobban teljesít, mint az o1.[12]

A Qwen-Vl sorozat a vizuális nyelvi modellek sorozata, amely egy látástranszformátort kombinál egy LLM-mel.[3][13] Az Alibaba kiadta a Qwen-VL2-t 2 milliárd és 7 milliárd paraméteres változatokkal.[14][15] A Qwen-vl-max az Alibaba zászlóshajója 2024-től a látásmodell, amelyet az Alibaba Cloud árul, ezer bemeneti tokenenként 0,00041 USD áron.[16]

Az Alibaba több más modelltípust is kiadott, mint például a Qwen-Audio és a Qwen2-Math.[17] Összesen több mint 100 modellt adott ki nyílt forráskódúként, modelljeit több mint 40 milliószor töltötték le.[8][18] A Qwen finomhangolt változatait fejlesztették ki rajongók, mint például a San Francisco-i Abacus AI által kifejlesztett „Liberated Qwen”, amely egy olyan változat, amely tartalmi korlátozások nélkül válaszol bármilyen felhasználói kérésre.[19]

2025 januárjában az Alibaba piacra dobta a Qwen 2.5-Max-ot, az eddigi legújabb és legerősebb modelljét.[20] Az Alibaba blogbejegyzése szerint a Qwen 2.5-Max a legfontosabb benchmarkokban felülmúlja más alapmodelleket, például a GPT-4o, a DeepSeek-V3 és a Llama-3.1-405B.[21]

Jegyzetek

[szerkesztés | forrásszöveg szerkesztése]
  1. ↑ Jiang, Ben (2024. július 11.). "Alibaba's open-source AI model tops Chinese rivals, ranks 3rd globally". South China Morning Post (angol nyelven).
  2. ↑ Chiang, Sheila (2023. április 11.). "Alibaba to roll out its rival to ChatGPT across all its products". CNBC (angol nyelven).
  3. 1 2 Bai, Jinze; et al. (2023. szeptember 28.). "Qwen Technical Report". arXiv:2309.16609 [cs.CL].
  4. ↑ Jiang, Ben (2023. szeptember 13.). "Alibaba opens Tongyi Qianwen model to public as new CEO embraces AI". South China Morning Post (angol nyelven).
  5. ↑ Fan, Feifei (2023. december 1.). "Alibaba unveils new Tongyi Qianwen AI language model". global.chinadaily.com.cn.
  6. ↑ Ye, Josh (2023. augusztus 3.). "Alibaba rolls out open-sourced AI model to take on Meta's Llama 2". reuters.
  7. ↑ Jiang, Ben (2024. június 7.). "Alibaba says new AI model Qwen2 bests Meta's Llama 3 in tasks like maths and coding". South China Morning Post (angol nyelven).
  8. 1 2 Kharpal, Arjun (2024. szeptember 19.). "China's Alibaba launches over 100 new open-source AI models, releases text-to-video generation tool". CNBC (angol nyelven).
  9. 1 2 Yang, An; et al. (2024. szeptember 10.). "Qwen2 Technical Report". arXiv:2407.10671 [cs.CL].
  10. ↑ Dickson, Ben (2024. november 29.). "Alibaba releases Qwen with Questions, an open reasoning model that beats o1-preview". VentureBeat.
  11. ↑ 故渊 (2024. november 28.). "阿里通义千问 QwQ 登场：开源 AI 推理新王，MATH 测试超 OpenAI o1 模型 - IT之家". www.ithome.com.
  12. ↑ Wiggers, Kyle (2024. november 27.). "Alibaba releases an 'open' challenger to OpenAI's o1 reasoning model". TechCrunch.
  13. ↑ Browne, Ryan (2024. december 31.). "Alibaba slashes prices on large language models by up to 85% as China AI rivalry heats up". CNBC (angol nyelven).
  14. ↑ 沛霖 (2024. augusztus 30.). "阿里通义千问推出 Qwen2-VL：开源 2B / 7B 参数 AI 大模型，处理任意分辨率图像无需分割成块". ithome.com.
  15. ↑ Wang, Peng; Bai, Shuai; Tan, Sinan; Wang, Shijie; Fan, Zhihao; Bai, Jinze; Chen, Keqin; Liu, Xuejing; Wang, Jialin; Ge, Wenbin; Fan, Yang; Dang, Kai; Du, Mengfei; Ren, Xuancheng; Men, Rui; Liu, Dayiheng; Zhou, Chang; Zhou, Jingren; Lin, Junyang (2024. szeptember 18.). "Qwen2-VL: Enhancing Vision-Language Model's Perception of the World at Any Resolution". Cs.CV. arXiv:2409.12191.
  16. ↑ Jiang, Ben (2024. december 31.). "Alibaba Cloud cuts AI visual model price by 85% on last day of the year". South China Morning Post (angol nyelven).
  17. ↑ Franzen, Carl (2024. augusztus 8.). "Alibaba claims no. 1 spot in AI math models with Qwen2-Math". VentureBeat.
  18. ↑ "Alibaba accelerates AI push by releasing new open-source models, text-to-video". Reuters. 2024. szeptember 19.
  19. ↑ Mims, Christopher (2024. április 19.). "Here Come the Anti-Woke AIs". WSJ.
  20. ↑ Brunner, Nathan (2025. január 29.). "Qwen 2.5-Max - Latest Statistics and Facts". boterview (angol nyelven). 2025. január 30. dátummal az eredeti címről archiválva.
  21. ↑ "Qwen2.5-Max: Exploring the Intelligence of Large-scale MoE Model". Github (angol nyelven). 2025. január 29.

További információk

[szerkesztés | forrásszöveg szerkesztése]
A lap eredeti címe: „https://hu.wikipedia.org/w/index.php?title=Qwen&oldid=27999574”