晶心科攜手Fractile 打造AI推理加速器

                                            （中央社記者張建中新竹2024年10月25日電）硅智財（IP）廠晶心科（6533）宣布，與Fractile策略合作，開發(fā)加速人工智慧（AI）推理的全新晶片，目標讓運行大語言模型時更快速、成本更低。

                                               晶心科發(fā)布新聞稿表示，F(xiàn)ractile向晶心科取得AX45MPV RISC-V向量處理器授權(quán)，結(jié)合ACE自動化工具和資料庫，并計劃將向量處理單元整合到第1代的資料中心AI推理加速器中。

                                               晶心科指出，F(xiàn)ractile透過記憶體運算架構(gòu)，這樣就不需要將模型參數(shù)往返于處理器晶片上，能夠瞬間產(chǎn)生答案，相較採用當(dāng)前硬體需要數(shù)秒才能完成快速。

                                               晶心科表示，F(xiàn)ractile整合雙方的優(yōu)勢，克服傳統(tǒng)運算方式的限制，突破記憶體瓶頸，將可提供快速且經(jīng)濟高效的人工智慧推理系統(tǒng)。

                                               Fractile是一家AI硬體公司，2022年在倫敦成立，致力透過使神經(jīng)網(wǎng)路運行更快、更有效率，增強集體人工智慧能力，已自北約創(chuàng)新基金等投資者籌集1750萬美元。