Microsoft Ignite 2023:微軟推出 Windows AI Studio,運行 AI 模型更簡單

在未來數週內,開發者就可以將 Windows AI Studio 作為 VS Code 的擴充功能開始使用,在 Windows 上運行 AI 模型更簡單了。
評論
A Microsoft store entrance with the company's logo on top in midtown Manhattan at the 5th avenue in New York City, US, on 11 November 2019. Microsoft Corporation is world's largest software maker dominant in PC operating system Microsoft Windows, office applications, web browser and communication market. (Photo by Nicolas Economou/NurPhoto via Getty Images)
NurPhoto via Getty Images
評論

在本週三的 Microsoft Ignite 活動上,微軟宣布推出 Windows AI Studio,這是一個專為開發者打造的全新 AI 中心,開發者可以在這裡存取 AI 模型並對其進行微調、自定義以及部署。

Windows AI Studio 主要可以讓開發者自現有的 Azure AI Studio、Hugging Face 等其他服務來存取開發工具和模型,並且提供端到端的「引導式工作區設定」,包含模型配置 UI 和演練,以供開發者微調各種小型語言模型(SLM),如微軟自家的 Phi、Meta 的 Llama 2 和 Mistral。開發者還可以使用整合至工作區的 Prompt Flow 和 Gradio 模板快速測試其微調模型。

微軟指出,Windows AI Studio 可以讓開發者更接近微軟所提倡的「混合循環」開發模式,這是指開發人員有更多的 AI 開發選擇,可以在 Azure 雲端上執行模型,也可以在 Windows 本機邊緣運行模型,甚至是跨兩者。

在未來數週內,開發者就可以將 Windows AI Studio 作為 VS Code 的擴充功能開始使用,以進行 AI 開發和運行工作。

此外,NVIDIA 也發布了 TensorRT-LLM 的更新,此次更新將 TensorRT-LLM 引入配備 GeForce RTX 30 和 40 系列 GPU(具有 8GB 或以上 RAM)的 PC。

TensorRT-LLM 是 NVIDIA 在上個月推出,適用於 Windows 用以加速 LLM 推論的函式庫。

另 NVIDIA 也會在不久的將來透過新的 wrapper 使 TensorRT-LLM 和 OpenAI 的聊天 API 相容,這能讓開發者在他們的 PC 本機上運行 LLM,對於在雲端中存取機密資料有所顧慮的開發者來說,是另一個好選擇。

NVIDIA 指出,下一代 TensorRT-LLM 6.0 版本的推論速度將提高 5 倍,支援最新的 LLM,包括 Mistral 7B 以及 Nemotron-3 8B。

核稿編輯:Mia

快加入 INSIDE Google News 按下追蹤,給你最新、最 IN 的科技新聞!

延伸閱讀:

 

 

最新發展:


永豐「DAWHO 之夜」帶大戶看大勢:展望 2024 經濟走向,深度解析股房雙市投資契機!

今年 11 月 29 日,關鍵評論網攜手永豐銀行舉辦直播活動《DAWHO之夜》,邀請到吳怡霈主持,以及政大商學院教授周冠男、樂居創辦人李奕農兩位投資專家,與大家分析 2024 年的經濟、房市,以及持續發燒的 AI 議題,尋覓投資契機!
評論
Photo Credit:TNL Brand Studio
評論

去年開始,關鍵評論網攜手永豐銀行 DAWHO 數位帳戶,舉辦系列直播活動《DAWHO 之夜》。每次邀請不同領域的專家學者帶來實用的生活、理財知識,播出至今深受觀眾喜愛,像是 2 月播出的「行為財務學實踐大戶方舟策略」、或是 6 月播出的「大戶的日本秘境攻略」,也都好評如潮。

今年 11 月 29 日傍晚,雙方再次合作舉辦大戶們敲碗已久的直播活動──「DAWHO之夜:2024 經濟展望」,本次邀請到知性主播吳怡霈擔綱主持,以及政大商學院教授周冠男、樂居創辦人李奕農兩位股市房市投資專家,與大家細細分析 2024 年的經濟、房市,以及持續發燒的 AI 議題,在溫和衰退中尋覓投資契機!

2024 經濟「審慎樂觀」!做好資產分配是投資成功關鍵

隨著 2023 年越來越接近尾聲, 2024 年臺灣經濟預測也紛紛出爐,綜觀各界預測報告*,2024 年經濟成長率預估落在 3% 上下,較 2023 年增長約 1.5 個百分點。對於明年臺灣的景氣觀察,政大商學院教授周冠男以烏俄戰爭、美中科技角力等國際事件的影響力式微為例,說明過去影響經濟的風險事件都已漸漸被認為「可控」,再加上近期作為經濟先行指標的股市也回穩、上漲,因此認為未來景氣將會緩慢恢復正常。

周教授提醒,雖然樂觀看待未來趨勢,但還是必須關注美國聯準會的「利率政策」和「以巴衝突」的後續情形。不管是債市還是股市,只要利率政策有點風吹草動,就會對市場產生巨大影響;此外他也提到,雖然從過去歷史看來,地緣政治事件對市場影響短暫,但仍建議投資人要多加注意,才能及時調整自己的投資組合。

談到投資心法,周冠男也強調,「投資絕對不是短線賺大錢的事情,不能急。為什麼『經濟循環』裡面有『循環』?因為它不可能永遠都不好。所以我們要做好資產配置,長期它就可能會自然而然地往上增值。」除此之外,他也分享資產配置比例的建議,「我覺得更精確的比例是『100 - 年齡』。」例如 30 歲年輕人的配置方向就是 70% 股票、30% 債券,然後每個人再根據個別的風險承受能力調節。最後,周冠男也建議大家在選擇標的時要落實分散的動作,避免一注獨壓某檔標的,因為市場到底最後誰會存活、誰能出線都是未知數。

Photo Credit:TNL Brand Studio

2024 房市「量」重於「價」!給首購族與投資人的建議

除了股市,房市的發展也是許多投資人關注的重點,尤其在臺灣號稱年度最重的打「炒房」政策《平均地權條例修正案》正式實施以後,不少人認為房市好像活力不再。對此,樂居創辦人李奕農以國泰房價指數及央行報告* 推論,認為未來房市將出現「價格緩漲、成交量萎縮、建商推案量縮」三大趨勢,建議 2024 年投資人可以從「成交量」觀察房屋的剛性需求強烈與否,進而判斷未來房市走勢。

Photo Credit:TNL Brand Studio

此外,李奕農進一步指出,「看似條例實施壓縮了預售屋的淨轉手空間,整體市場萎縮、監理轉嚴,預售屋受傷應該比較嚴重,但實際上預售屋還是交易最熱絡的。」原因出在預售市場分期支付款項的特性,所以他認為未來預售屋的成交量還是持續看漲,且整體房市也不會過於疲弱。他接著解釋,「就像實價登錄不能稱為打房手段,近期政府只是增加監管力道,整頓市場的交易狀況,讓房地產交易回歸正常化,所以我不認為這些政策會導致房市走緩。」

面對首購族的聽眾,李奕農認為可以跟著政策走,例如現在提供利率補貼、寬限期延長、貸款年限延長的「新青年安心成家房貸」就是不錯的機會;但如果是投資人,李奕農則建議要等到政府把限貸政策移除的時候,才比較是進場投資的時機。

Photo Credit:TNL Brand Studio

AI 話題持續發燒,股房雙市怎麼看?

活動過程中,也談到近年熱門的 AI 話題。對此,李奕農分享美國房產領域已經有運用 AI 預測房地產價值的成熟案例,說明 AI 未來很可能成為房市中預測物件價值的工具,無論是投資還是自住都能幫助到想買房的購屋族。周冠男也認同 AI 崛起的趨勢,並從兩大觀點進一步分析,「第一,市場最近剛從 AI 熱潮冷靜下來,市場和投資人也能更客觀的看待產業未來的前景;第二,回到生活面來看,AI 也只會越來越強,不管是金融商品推薦、醫藥應用、電信通訊、傳播應用,甚至是娛樂產業都是一片藍海,值得投資人持續關注。」

不過論及「出手」時,他也鄭重的再次提醒,「還是那一句,出手之前要做研究、不要單押某一家股票;最好 AI 相關標的都要有所涉獵,或是挑選一個投資組合,盡量把風險透過資產配置分散開。」就像周冠男教授不斷強調的,投資最忌諱人云亦云,哪個故事好聽走哪邊。因為每個人的風險承受度不同,投資理財的規劃、資產配置的方式也不同,投資人必須仔細思考,做好功課,然後才能在一次次的配置和操作過程,領悟到屬於自己的投資心法,並在 2024 年把握市場大勢,享受被動投資的甜美果實。

Photo Credit:TNL Brand Studio

立即了解永豐DAWHO

*註1:綜觀中央銀行、行政院主計總處、中華經濟研究院、台灣經濟研究院等單位所公布之經濟報告中的台灣經濟成長率預估值。
*註2:2023 年 10 月 3 日,中央銀行業務報告暨 113 年度中央政府總預算案行政院歲入預算有關中央銀行股息紅利繳庫部分之說明,第 33 頁。


* 來賓言論不代表永豐銀行之立場,直播活動體驗旨在提供趣味性互動,因每個人的狀況不盡相同,使用者應自行評估與參考,切勿以此直播內容作為生活規劃的唯一依據。
* 注意事項:
1. 基金:投資一定有風險,基金投資有賺有賠,申購前應詳閱公開說明書。請至永豐銀行基金網站參考完整投資警語說明:https://mma.sinopac.com/mma/SinopacFundSearch/search/FundIndex.aspx
2. 美股:
(1). 投資人投資海外股票之決定應依本身判斷為之,且應自行負擔投資風險及投資結果;本行並不分擔投資風險或為任何收益保證。投資海外股票有投資風險(包括但不限於信用、價格、匯率、下市、政治之風險),亦可能發生部分或全部本金之損失,最大可能損失為全部投資本金及利息。申購前請至永豐銀行美股網站參考完整投資警語說明:https://bank.sinopac.com/sinopacBT/webevents/USStock/index.html
(2). 投資一定有風險,股票/ETF投資有賺有賠,申購前請至永豐銀行 ShareShares 網站參考完整投資警語說明:https://mma.sinopac.com/ShareShares/Index.aspx
3. ibrAin:永豐商業銀行經金融監督管理委員會109年9月10日金管證投字第1090352215號函核准辦理兼營證券投資顧問業務。請至永豐銀行ibrAin網站參考完整投資警語說明:https://bank.sinopac.com/sinopacBT/webevents/ibrain/index.html
4. 大戶投:「大戶投」為永豐金證券提供之服務,詳情請至大戶投網站參考完整說明:https://dawho.tw/hot/dawhotou/
5.房貸:「理財型房貸」為永豐銀行提供之服務,請評估投資風險及自身償債能力,詳情請至房貸網站參考完整說明:https://dawho.tw/hot/mortgage/