README.md

Kuharska knjiga Phi: Praktični primeri z modeli Phi podjetja Microsoft

Phi je serija odprtokodnih modelov umetne inteligence, ki jih je razvil Microsoft.

Phi je trenutno najučinkovitejši in stroškovno najbolj učinkovit majhen jezikovni model (SLM), z zelo dobrimi rezultati v večjezičnosti, sklepanju, ustvarjanju besedil/klepetu, kodiranju, slikah, zvoku in drugih scenarijih.

Phi lahko namestite v oblak ali na robne naprave in z omejenimi računalniškimi zmogljivostmi enostavno ustvarite generativne AI aplikacije.

Za začetek rabe teh virov sledite tem korakom:

1. Razvezi repozitorij: Kliknite
2. Kloniraj repozitorij: git clone https://github.com/microsoft/PhiCookBook.git
3. Pridruži se Microsoft AI Discord skupnosti in spoznaj strokovnjake ter druge razvijalce

🌐 Večjezična podpora

Podprto preko GitHub Action (avtomatizirano in vedno posodobljeno)

Arabščina | Bengalščina | Bolgarščina | Burmanščina (Mjanmar) | Kitajščina (poenostavljena) | Kitajščina (tradicionalna, Hong Kong) | Kitajščina (tradicionalna, Macao) | Kitajščina (tradicionalna, Tajvan) | Hrvaščina | Češčina | Danščina | Nizozemščina | Estonščina | Finščina | Francoščina | Nemščina | Grščina | Hebrejščina | Hindujščina | Madžarščina | Indonezijščina | Italijanščina | Japonščina | Kannada | Kmerski jezik | Korejščina | Litovščina | Malajščina | Malajalščina | Maratščina | Nepalščina | Nigerijski pidžin | Norveščina | Perzijščina (Farsi) | Poljščina | Portugalščina (Brazilija) | Portugalščina (Portugalska) | Pandžabščina (Gurmukhi) | Romunščina | Ruščina | Srbščina (cirilica) | Slovaščina | Slovenščina | Španščina | Svahili | Švedščina | Tagalog (filipinski) | Tamilščina | Telugujščina | Tajščina | Turščina | Ukrajinščina | Urdu | Vietnamščina

Raje klonirate lokalno?

Ta repozitorij vključuje prevode v več kot 50 jezikov, kar znatno poveča velikost prenosa. Če želite klonirati brez prevodov, uporabite sparse checkout:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Tako dobite vse, kar potrebujete za dokončanje tečaja, z veliko hitrejšo prenosno hitrostjo.

Vsebina

• Uvod

  • Dobrodošli v družino Phi
  • Nastavitev okolja
  • Razumevanje ključnih tehnologij
  • Varnost AI za modele Phi
  • Podpora za strojno opremo Phi
  • Modeli Phi in razpoložljivost na platformah
  • Uporaba Guidance-ai in Phi
  • Modeli na GitHub Marketplace
  • Katalog modelov Azure AI

• Inferenca Phi v različnih okoljih

  • Hugging face
  • GitHub modeli
  • Microsoft Foundry katalog modelov
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry lokalno

• Inferenca Phi družine

  • Inferenca Phi v iOS
  • Inferenca Phi v Androidu
  • Inferenca Phi v Jetsonu
  • Inferenca Phi na AI PCju
  • Inferenca Phi z Apple MLX Framework
  • Inferenca Phi na lokalnem strežniku
  • Inferenca Phi na oddaljenem strežniku z uporabo AI Toolkit
  • Inferenca Phi z Rustom
  • Inferenca Phi–Vid pred lokalno uporabo
  • Inferenca Phi z Kaito AKS, Azure Containers (uradna podpora)

• Kvantifikacija družine Phi

  • Kvantifikacija Phi-3.5 / 4 z uporabo llama.cpp
  • Kvantifikacija Phi-3.5 / 4 z uporabo Generative AI razširitev za onnxruntime
  • Kvantifikacija Phi-3.5 / 4 z uporabo Intel OpenVINO
  • Kvantifikacija Phi-3.5 / 4 z uporabo Apple MLX Framework

• Evalvacija Phi

  • Odgovorna AI
  • Microsoft Foundry za evalvacijo
  • Uporaba Promptflow za evalvacijo

• RAG z Azure AI Search

  • Kako uporabljati Phi-4-mini in Phi-4-multimodal (RAG) z Azure AI Search

• Primeri razvoja aplikacij s Phi

  • Besedilne in klepetalne aplikacije

    • Phi-4 primeri
      • [📓] Klepet z modelom Phi-4-mini ONNX
      • Klepet z lokalnim modelom Phi-4 ONNX .NET
      • Klepet konzolna aplikacija .NET z Phi-4 ONNX z uporabo Semantic Kernel
    • Phi-3 / 3.5 primeri
      • Lokalni klepetalni robot v brskalniku z uporabo Phi3, ONNX Runtime Web in WebGPU
      • OpenVino Klepet
      • Večmodelni - Interaktivni Phi-3-mini in OpenAI Whisper
      • MLFlow - Izdelava ovojnice in uporaba Phi-3 z MLFlow
      • Optimizacija modela - Kako optimizirati model Phi-3-min za ONNX Runtime Web z Olive
      • WinUI3 aplikacija s Phi-3 mini-4k-instruct-onnx -Vzorec večmodelnih opomb z umetno inteligenco WinUI3
      • Natančno prilagodite in integrirajte lastne modele Phi-3 s Prompt flow
      • Natančno prilagodite in integrirajte lastne modele Phi-3 s Prompt flow v Microsoft Foundry
      • Ocenjevanje natančno prilagojenega modela Phi-3 / Phi-3.5 v Microsoft Foundry s poudarkom na načelih odgovorne umetne inteligence podjetja Microsoft
      • [📓] Vzorec jezikovne napovedi Phi-3.5-mini-instruct (kitajščina/angleščina)
      • Phi-3.5-Instruct spletni GPU RAG klepetalnik
      • Uporaba Windows GPU za ustvarjanje rešitve Prompt flow s Phi-3.5-Instruct ONNX
      • Uporaba Microsoft Phi-3.5 tflite za ustvarjanje Android aplikacije
      • Q&A .NET primer uporabe lokalnega ONNX Phi-3 modela z Microsoft.ML.OnnxRuntime
      • Konzolna .NET aplikacija za klepet s Semantic Kernel in Phi-3

  • Azure AI Inference SDK primeri na osnovi kode

    • Vzorci Phi-4
      • [📓] Generiranje kode projekta s Phi-4-multimodal
    • Vzorci Phi-3 / 3.5
      • Ustvarite svoj Visual Studio Code GitHub Copilot klepet z Microsoft Phi-3 družino
      • Ustvarite svoj Visual Studio Code klepetalnega copilot agenta s Phi-3.5 po modelih GitHub

  • Napredni vzorci sklepanja

    • Vzorci Phi-4
      • [📓] Vzorec Phi-4-mini-sklepanje ali Phi-4-sklepanje
      • [📓] Natančno prilagajanje Phi-4-mini-sklepanje z Microsoft Olive
      • [📓] Natančno prilagajanje Phi-4-mini-sklepanje z Apple MLX
      • [📓] Phi-4-mini-sklepanje z GitHub modeli
      • [📓] Phi-4-mini-sklepanje z Microsoft Foundry modeli

  • Demos

    • Phi-4-mini demo na Hugging Face Spaces
    • Phi-4-multimodal demo na Hugginge Face Spaces

  • Vzorci za vid

    • Vzorci Phi-4
      • [📓] Uporaba Phi-4-multimodal za branje slik in ustvarjanje kode
    • Vzorci Phi-3 / 3.5
      • [📓]Phi-3-vid-slikovni tekst v tekst
      • Phi-3-vid-ONNX
      • [📓]Phi-3-vid CLIP embediranje
      • DEMO: Phi-3 Recikliranje
      • Phi-3-vid - Vizualni jezikovni pomočnik - s Phi3-Vision in OpenVINO
      • Phi-3 Vid Nvidia NIM
      • Phi-3 Vid OpenVino
      • [📓]Phi-3.5 Vid večslojni ali več-slikovni vzorec
      • Phi-3 Vid lokalni ONNX model z uporabo Microsoft.ML.OnnxRuntime .NET
      • Meni osnovan Phi-3 Vid lokalni ONNX model z uporabo Microsoft.ML.OnnxRuntime .NET

  • Razsnovanje-Vid vzorci

    • Phi-4-Razsnovanje-Vid-15B
      • [📓] Uporaba Phi-4-Razsnovanje-Vid-15B za zaznavanje prečkanja ceste na mestu, kjer ni prehoda
      • [📓] Uporaba Phi-4-Razsnovanje-Vid-15B za matematiko
      • [📓] Uporaba Phi-4-Razsnovanje-Vid-15B za zaznavanje uporabniškega vmesnika

  • Matematični vzorci

    • Phi-4-Mini-Flash-Razsnovanje-Instrukt vzorci Matematični demo s Phi-4-Mini-Flash-Razsnovanje-Instrukt

  • Zvočni vzorci

    • Vzorci Phi-4
      • [📓] Izvleček zvočnih prepisov z uporabo Phi-4-multimodal
      • [📓] Vzorec zvočnega posnetka Phi-4-multimodal
      • [📓] Vzorec prevajanja govora Phi-4-multimodal
      • .NET konzolna aplikacija, ki uporablja Phi-4-multimodal Audio za analizo zvočne datoteke in generiranje prepisa

  • MOE Vzorci

    • Vzorci Phi-3 / 3.5
      • [📓] Phi-3.5 Mešanica strokovnjakov (MoEs) vzorec na družbenih omrežjih
      • [📓] Izdelava Retrieval-Augmented Generation (RAG) cevovoda z NVIDIA NIM Phi-3 MOE, Azure AI Search in LlamaIndex

  • Vzorci klicev funkcij

    • Vzorci Phi-4 🆕
      • [📓] Uporaba klicev funkcij s Phi-4-mini
      • [📓] Uporaba klicev funkcij za ustvarjanje več agentov s Phi-4-mini
      • [📓] Uporaba klicev funkcij z Ollama
      • [📓] Uporaba klicev funkcij z ONNX

  • Vzorci multimodalnega mešanja

    • Vzorci Phi-4 🆕
      • [📓] Uporaba Phi-4-multimodal kot tehnološkega novinarja
      • .NET konzolna aplikacija, ki uporablja Phi-4-multimodal za analizo slik

• Natančno prilagajanje Phi vzorcev

  • Scenariji natančnega prilagajanja
  • Natančno prilagajanje vs RAG
  • Natančno prilagajanje naj Phi-3 postane industrijski strokovnjak
  • Natančno prilagajanje Phi-3 z AI orodji za VS Code
  • Natančno prilagajanje Phi-3 z Azure Machine Learning Service
  • Natančno prilagajanje Phi-3 z Loro
  • Natančno prilagajanje Phi-3 z QLoro
  • Natančno prilagajanje Phi-3 z Microsoft Foundry
  • Natančno prilagajanje Phi-3 z Azure ML CLI/SDK
  • Natančno prilagajanje z Microsoft Olive
  • Natančno prilagajanje z Microsoft Olive praksa v laboratoriju
  • Natančno prilagajanje Phi-3-vision z Weights and Bias
  • Natančno prilagajanje Phi-3 z Apple MLX okvirom
  • Natančno prilagajanje Phi-3-vision (uradna podpora)
  • Fino nastavljanje Phi-3 z Kaito AKS, Azure Containers (uradna podpora)
  • Fino nastavljanje Phi-3 in 3.5 Vision

• Praktična delavnica

  • Raziskovanje najnovejših modelov: LLM, SLM, lokalni razvoj in še več
  • Odklepanje potenciala NLP: fino nastavljanje z Microsoft Olive

• Akademske raziskovalne naloge in publikacije

  • Vse, kar potrebujete, II: tehnično poročilo phi-1.5
  • Tehnično poročilo Phi-3: zelo zmogljiv jezikovni model lokalno na vašem telefonu
  • Tehnično poročilo Phi-4
  • Tehnično poročilo Phi-4-Mini: kompaktni, vendar zmogljivi multimodalni jezikovni modeli preko mešanice LoRA
  • Optimizacija majhnih jezikovnih modelov za funkcijsko klicanje v vozilu
  • (WhyPHI) Fino nastavljanje PHI-3 za odgovarjanje na vprašanja z več izbirami: metodologija, rezultati in izzivi
  • Tehnično poročilo Phi-4 za sklepanje
  • Tehnično poročilo Phi-4-mini za sklepanje

Uporaba Phi modelov

Phi na Microsoft Foundry

Lahko se naučite, kako uporabljati Microsoft Phi in kako graditi E2E rešitve na različnih strojnih napravah. Da bi doživeli Phi sami, začnite z igranjem z modeli in prilagajanjem Phi za vaše scenarije z uporabo Microsoft Foundry Azure AI Model Catalog. Več lahko izveste v vodiču Začetek dela z Microsoft Foundry.

Igralnica Vsak model ima svojo namenjeno igralnico za testiranje modela Azure AI Playground.

Phi na GitHub modelih

Lahko se naučite, kako uporabljati Microsoft Phi in kako graditi E2E rešitve na različnih strojnih napravah. Da bi doživeli Phi sami, začnite z igranjem z modelom in prilagajanjem Phi za vaše scenarije z uporabo GitHub Model Catalog. Več lahko izveste v vodiču Začetek dela z GitHub Model Catalog.

Igralnica Vsak model ima namenjeno igralnico za testiranje modela.

Phi na Hugging Face

Model lahko prav tako najdete na Hugging Face.

Igralnica Hugging Chat igralnica

🎒 Drugi tečaji

Naša ekipa ustvarja tudi druge tečaje! Oglejte si:

LangChain

Azure / Edge / MCP / Agent

---

Serija generativne umetne inteligence

---

Temeljno učenje

---

Serija Copilot

Odgovorna umetna inteligenca

Microsoft se zavezuje pomagati našim strankam, da uporabljajo naše AI izdelke odgovorno, deliti naša spoznanja in graditi partnerske odnose, ki temeljijo na zaupanju, preko orodij, kot so Beležke transparentnosti in Ocene vpliva. Veliko teh virov lahko najdete na https://aka.ms/RAI. Microsoftov pristop k odgovorni AI temelji na naših načelih AI: pravičnost, zanesljivost in varnost, zasebnost in varnost, vključenost, transparentnost in odgovornost.

Veliki naravni jezikovni, slikovni in glasovni modeli – kot tisti, uporabljeni v tem vzorcu – se lahko potencialno vedejo na načine, ki niso pravični, zanesljivi ali so žaljivi, kar lahko povzroči škodo. Za informacije o tveganjih in omejitvah si oglejte Opombo o transparentnosti storitve Azure OpenAI. Priporočeni pristop za omilitev teh tveganj je vključitev varnostnega sistema v vašo arhitekturo, ki lahko zazna in prepreči škodljivo vedenje. Azure AI Content Safety zagotavlja neodvisno zaščitno plast, ki je sposobna zaznati škodljivo vsebino, ki jo ustvarijo uporabniki ali AI, v aplikacijah in storitvah. Azure AI Content Safety vključuje API-je za besedilo in slike, ki omogočajo zaznavanje škodljivega gradiva. V okviru Microsoft Foundry storitev Content Safety omogoča ogled, raziskovanje in preizkus vzorčne kode za zaznavanje škodljive vsebine v različnih oblikah. Naslednja hitri začetek dokumentacije vas vodi skozi pošiljanje zahtevkov tej storitvi.

Drugi vidik, ki ga je treba upoštevati, je splošna zmogljivost aplikacije. Pri večmodalnih in večmodelnih aplikacijah zmogljivost razumemo kot to, da sistem deluje tako, kot vi in vaši uporabniki pričakujete, vključno s tem, da ne ustvarja škodljivih izhodov. Pomembno je oceniti zmogljivost vaše celotne aplikacije z uporabo ocenjevalcev zmogljivosti, kakovosti, tveganja in varnosti. Prav tako imate možnost ustvarjati in ocenjevati z lastnimi ocenjevalci.

Svojo AI aplikacijo lahko ocenjujete v vašem razvojnem okolju z uporabo Azure AI Evaluation SDK. Glede na testni nabor podatkov ali ciljno vrednost so generacije vaše generativne AI aplikacije kvantitativno izmerjene s pomočjo vgrajenih ali vaših lastnih izbranih ocenjevalcev. Za začetek z azure ai evaluation sdk za ocenjevanje vašega sistema lahko sledite hitremu vodniku. Ko izvedete ocenjevalno izvedbo, lahko vizualizirate rezultate v Microsoft Foundry.

Blagovne znamke

Ta projekt lahko vsebuje blagovne znamke ali logotipe za projekte, izdelke ali storitve. Dovoljena uporaba Microsoftovih blagovnih znamk ali logotipov je predmet in mora slediti Microsoftovim smernicam za blagovne znamke in znamčenje. Uporaba Microsoftovih blagovnih znamk ali logotipov v spremenjenih različicah tega projekta ne sme povzročiti zmede ali nakazovati sponzorstva s strani Microsofta. Vsaka uporaba blagovnih znamk ali logotipov tretjih oseb je predmet politik teh tretjih oseb.

Pomoč

Če naletite na težave ali imate vprašanja o ustvarjanju AI aplikacij, se pridružite:

Če imate povratne informacije o izdelku ali napake med razvojem, obiščite:

---

Omejitev odgovornosti: Ta dokument je bil preveden z uporabo storitve za prevajanje z umetno inteligenco Co-op Translator. Čeprav si prizadevamo za natančnost, upoštevajte, da lahko avtomatizirani prevodi vsebujejo napake ali netočnosti. Izvirni dokument v njegovem maternem jeziku se šteje za avtoritativni vir. Za ključne informacije priporočamo strokovni človeški prevod. Ne odgovarjamo za morebitna nesporazume ali napačne interpretacije, ki izhajajo iz uporabe tega prevoda.