AI時代的網站與手機App建置與開發Part30 - ML 4.0新功能介紹

 l  摘要

Microsoft在2025年的1月16日發佈了新版本的ML.NET 4.0, 這個新版本主要的功能在於加入了整合GPT-4的Token解析功能, 支援.NET應用程式與GPT-4大型語言模型的協同合作. Microsoft在ML.NET的支援不斷地在提升, 按照Microsoft的研發時程, 在2025年底還會有更新的ML.NET 5.0與大家見面.

圖: 機器學習示意圖

l  認識ML.NET 4.0

ML.NET 4.0是Microsoft支援,NET工程師開發機器學習相關的應用的最新版本開放原始碼程式庫, 是繼2023年11月底發佈的ML.NET 3.0之後的最新版本, 其主要的功能更新包括更強大的分詞(Tokenization)功能, 新版本的Model Builder Visual Studio延伸模組, 整合TorchSharp程式庫, 以及功能更先進的AutoML功能.

1.    更強大的分詞(Tokenization)功能

ML.NET 4.0支援的 Microsoft.ML.Tokenizers程式庫增強了以下的幾項功能:

  • 功能更強大的應用程式介面與Tiktoken分詞支援: 
          Tiktoken分詞技術是OpenAI 的機器學習模型使用的分詞技術, 支援Tiktoken分詞技術方  
          便.NET應用程式直接整合包括GPT-4在內的GPT機器學習模型.

  • Llama 大型語言模型的分詞支援: 
          支援包括LLaMA和Mistral在內, 以Llama為基礎的機器學習模型的分詞技術, 在支援自然語
           言處理方面提供更多的選擇

  • CodeGen分詞支援: 
          支援codegen-350M-mono與phi-2使用的分詞技術, 提供更強大的程式碼寫作協助與程式碼
          搜尋解決方案.

  • Span-based應用程式介面與Flexible Normalization支援: 
           Span-based 應用程式介面支援操作文件中一系列的字詞(Token), 稱為Span, 達到取出關鍵
           字詞, 修改關鍵字詞, 或是分析關鍵字詞的目的. Flexible normalization支援處理文字內容的
           各種表示方法(例如大小寫不同, 口音不同, 英文時態, 以及標點符號不同), 不受文字的各種
           表示方式的不同, 而仍然能夠達到正確的自然語言處理.

因為上述這些功能的強化, ML.NET 4.0較之前的版本更能夠簡化, 或是提升各種自然語言處理的功能的效率.

2.    新版本的Model Builder Visual Studio延伸模組

新版本的Model Builder Visual Studio延伸模組 支援.NET工程師能夠透過Visual Studio直接使用ML.NET提供的question answering (QA)功能與named entity recognition (NER)功能.

3.    整合TorchSharp程式庫

ML.NET 4.0支援整合TorchSharp程式庫(支援.NET應用程式叫用PyTorch機器學習程式庫的功能), 建立基於PyTorch程式庫的深度學習功能, 例如物件偵測, named entity recognition (NER), 以及question answering(QA)等常用的功能.

4.    功能更先進的AutoML功能

ML.NET 4.0支援的AutoML(Automated Machine Learning)功能加入了尋找相似語句, question answering(QA), 物件偵測, 以及最佳模型選擇與最佳超參數(hyperparameter)選擇等功能.

透過ML.NET 4.0的幫助, .NET工程師能夠更有效率地使用Visual Studio程式開發工具發展以.NET平台為基礎的機器學習相關應用.

留言

張貼留言

這個網誌中的熱門文章

AI時代的網站與手機App建置與開發Part29 - 使用YOLO模型偵測影片中的物件

圖片
  l   摘要 YOLO(You Only Look Once) 模型除了能夠辨識圖片內容以外 , 也能夠辨識影片的內容 , 也就是自駕車 , 無人機 , 空拍機 , 等裝置必備的功能 . 圖 : 空拍機空拍與辨識內容示意圖 ·         使用 YOLO 模型偵測影片中的物件 從技術面來看 , 影片其實是一堆圖片以連續的方式高速 ( 例如每秒 30 張圖片 , 或每秒 60 張圖片 ) 播放形成的效果 , 以下列的影片為例 : 圖 1: 內含狗與貓兩種動物的短片 就是由以下的多張圖片高速連續播放形成的 : 而網路攝影機 (WebCam) 的鏡頭觀察到的內容其實和影片的內容具有相同的結構 , 也就是網路攝影機的鏡頭觀察到的內容也是由一組連續的圖片組成的 . 例如上述的影片就是由以下的圖片組成的: 圖 2: 組成影片內容的多張連續的圖片 所以只要能夠使用 YOLO 模型偵測圖片的內容 , 就一定能夠偵測影片的內容 . ·         認識 Emgu.CV 程式庫 Emgu.CV 程式庫是一套包裝 OpenCV 圖形處理功能的套件 , 支援 Microsoft .NET 平台的應用程式使用 Microsoft .NET 支援的程式語言方便地叫用 OpenCV 圖形處理功能 . Emgu.CV 程式庫支援與 Visual Studio 和 Unity 整合 , 並部署到 Windows, Linux, macOS 等平台 , 甚至是 iOS 與 Android 等手機平台執行 . ·         使用 Emgu.CV 程式庫將欲辨識的影片解析成一組的圖片 首先請將欲辨識的影片加入到專案中名稱為 Video 資料夾中 , 並到 [ 屬性 ] 視窗將欲辨識的影片檔案的 [ 複製到輸出目錄 ] 屬性的內容值設定為 : 有更新時才複製 . string videoPath = "Video/CatnDog.mp4" ;          ...
閱讀完整內容

AI時代的網站與手機App建置與開發Part27 - ML.NET與物件偵測

圖片
  ·        摘要 在自動駕駛的無人車和無人機風風火火出現在日常生活的應用的現今 , 物件偵測技術的應用也日益普及 , 例如自駕車必須要能夠偵測並判斷車輛前方的物體 , 當然最近眾人關注的人形機器人 , 也必須重度依賴物件偵測技術 . 圖 : 物件偵測示意圖 在本篇文章中 , 我們將使用 Visual Studio 2022, 搭配 Microsoft ML.NET 執行物件偵測 . ·        準備訓練資料 首先請參考 [ 使用 VoTT 為物件偵測標記影像 ] 這篇文件的說明 , 為欲偵測的圖片內容進行標示的動作 . 您可以標示多張內含欲辨識的內容 ( 例如 : 汽車 , 機車 , 狗 , 貓 , 紅綠燈 , 交通號誌等等 ) 的圖片 . 例如我們想辨識以下圖片中的停止號誌 : 圖: 內含停止號誌的圖片 就可以使用 Microsoft Visual Object Tagging Tool 標示出圖中 Stop 號誌的位置 , 得到內容位置資訊的 JSON 文件 , 如下所示 : {     "asset": {         "format": "jpg",         "id": "3a74b9294f2f787bf2abe678f6a43231",         "name": "untitled-photo-3d6zCZ4lpBE-unsplash.jpg",         "path": "file:E:/temp/Stop-Signs/untitled-photo-3d6zCZ4lpBE-unsplash.jpg",         "size": {  ...
閱讀完整內容