Home Sign Up Sign In
ttgo
V2EX  ›  问与答

主流的能用的大语言模型中，速度最快的是哪个？

  •   
  •   ttgo · Mar 27, 2024 · 1700 views
    This topic created in 809 days ago, the information mentioned may be changed or developed.
  • 速度
  • 模型
  • 主流
    4 replies  •  2024-03-27 16:33:28 +08:00
    PbCopy111
        1
    PbCopy111  
       Mar 27, 2024
    我在用智谱 AI 的
    TimePPT
        2
    TimePPT  
    PRO
       Mar 27, 2024
    如果没有国内合规要求，看看 Groq ?
    ohazyi
        3
    ohazyi  
       Mar 27, 2024
    开源的，mistral 8x7b 这种基于 moe 的，推理速度快多了
    mumu
        4
    mumu  
       Mar 27, 2024
    Groq 确实快，但是想让他回复中文，提示词改得有点蛋疼。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2936 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 04:01 · PVG 12:01 · LAX 21:01 · JFK 00:01
    ♥ Do have faith in what you're doing.