Kaj je nevronska mreža v umetni inteligenci?

Kaj je nevronska mreža v umetni inteligenci?

Nevronske mreže se slišijo skrivnostno, dokler ne postanejo več. Če ste se kdaj vprašali, kaj je nevronska mreža v umetni inteligenci in ali je to le matematika z modnim klobukom, ste na pravem mestu. Ohranili bomo praktičnost, dodali bomo majhne odklone in ja - nekaj emojijev. Odšli boste z vedenjem, kaj so ti sistemi, zakaj delujejo, kje odpovejo in kako o njih govoriti brez oklevanja.

Članki, ki jih boste morda želeli prebrati po tem:

🔗 Kaj je pristranskost umetne inteligence
Razumevanje pristranskosti v sistemih umetne inteligence in strategije za zagotavljanje pravičnosti.

🔗 Kaj je napovedna umetna inteligenca
Kako napovedna umetna inteligenca uporablja vzorce za napovedovanje prihodnjih rezultatov.

🔗 Kaj je trener umetne inteligence
Raziskovanje vloge in odgovornosti strokovnjakov, ki usposabljajo umetno inteligenco.

🔗 Kaj je računalniški vid v umetni inteligenci
Kako umetna inteligenca interpretira in analizira vizualne podatke s pomočjo računalniškega vida.

Kaj je nevronska mreža v umetni inteligenci? Odgovor v 10 sekundah ⏱️

Nevronska mreža je sklad preprostih računskih enot, imenovanih nevroni, ki posredujejo številke naprej, med učenjem prilagajajo moč svojih povezav in postopoma učijo vzorcev v podatkih. Ko slišite globoko učenje , to običajno pomeni nevronsko mrežo z veliko zloženimi plastmi, ki se samodejno uči funkcij, namesto da bi jih kodirali ročno. Z drugimi besedami: veliko drobnih matematičnih delčkov, pametno razporejenih, usposobljenih na podatkih, dokler niso uporabni [1].

Zakaj je nevronska mreža uporabna? ✅

  • Moč reprezentacije : Z ustrezno arhitekturo in velikostjo lahko omrežja aproksimirajo zelo kompleksne funkcije (glej izrek o univerzalni aproksimaciji) [4].

  • Učenje od začetka do konca : Namesto ročnega inženiringa funkcij jih model odkriva [1].

  • Posplošitev : Dobro regularizirano omrežje si ne samo zapomni – deluje tudi na novih, nevidnih podatkih [1].

  • Prilagodljivost : Večji nabori podatkov in večji modeli pogosto izboljšujejo rezultate ... do praktičnih omejitev, kot sta računska zmogljivost in kakovost podatkov [1].

  • Prenosljivost : Funkcije, pridobljene pri eni nalogi, lahko pomagajo pri drugi (prenos učenja in fino uglaševanje) [1].

Majhen terenski zapis (primer scenarija): Majhna ekipa za klasifikacijo izdelkov zamenja ročno izdelane funkcije za kompaktno CNN, doda preproste dopolnitve (obračanja/obrezovanja) in opazuje, kako se napake pri preverjanju zmanjšujejo – ne zato, ker je omrežje »čarobno«, ampak zato, ker se je več uporabnih funkcij naučilo neposredno iz slikovnih pik.

»Kaj je nevronska mreža v umetni inteligenci?« v preprostem jeziku, z vprašljivo metaforo 🍞

Predstavljajte si pekovsko linijo. Sestavine gredo noter, delavci prilagodijo recept, preizkuševalci okusov se pritožujejo in ekipa ponovno posodobi recept. V omrežju vhodni podatki tečejo skozi plasti, funkcija izgub ocenjuje izhod, gradienti pa spreminjajo uteži, da se naslednjič bolje obnesejo. Ni popolno kot metafora – kruh ni odvojiv – ampak se drži [1].

Anatomija nevronske mreže 🧩

  • Nevroni : Drobni kalkulatorji, ki uporabljajo uteženo vsoto in aktivacijsko funkcijo.

  • Uteži in pristranskosti : Nastavljivi gumbi, ki določajo, kako se signali združujejo.

  • Plasti : Vhodna plast sprejema podatke, skrite plasti jih preoblikujejo, izhodna plast pa naredi napoved.

  • Aktivacijske funkcije : Nelinearni zasuki, kot so ReLU, sigmoid, tanh in softmax, omogočajo prilagodljivo učenje.

  • Funkcija izgube : Ocena napačnosti napovedi (navzkrižna entropija za klasifikacijo, MSE za regresijo).

  • Optimizator : Algoritmi, kot sta SGD ali Adam, uporabljajo gradiente za posodabljanje uteži.

  • Regularizacija : Tehnike, kot sta izpuščanje ali upadanje teže, da se prepreči prekomerno prilagajanje modela.

Če želite formalno obravnavo (vendar še vedno berljivo), odprti učbenik Globoko učenje zajema celoten sklop: matematične osnove, optimizacijo in posploševanje [1].

Aktivacijske funkcije, na kratko, a koristno ⚡

  • ReLU : Nič za negativne vrednosti, linearno za pozitivne. Preprosto, hitro, učinkovito.

  • Sigmoid : Združuje vrednosti med 0 in 1 - uporabno, vendar lahko povzroči nasičenje.

  • Tanh : Kot sigmoid, vendar simetričen okoli ničle.

  • Softmax : Pretvori surove rezultate v verjetnosti med razredi.

Ni vam treba zapomniti vsake oblike krivulje – dovolj je, da poznate kompromise in pogoste privzete nastavitve [1, 2].

Kako se učenje dejansko dogaja: s pomočjo opore, a ne strašljivo 🔁

  1. Prehod naprej : Podatki se pretakajo plast za plastjo, da se ustvari napoved.

  2. Izračunaj izgubo : Primerjaj napoved z resnico.

  3. Povratno širjenje : Izračunajte gradiente izgube glede na vsako težo z uporabo verižnega pravila.

  4. Posodobitev : Optimizer nekoliko spremeni uteži.

  5. Ponavljanje : Veliko epoh. Model se postopoma uči.

Za praktičen vpogled z vizualnimi elementi in razlagami, ki so povezane s kodo, glejte klasične opombe CS231n o povratnem propiranju in optimizaciji [2].

Glavne družine nevronskih mrež, na kratko 🏡

  • Omrežja za posredovanje podatkov naprej (MLP) : Najpreprostejša vrsta. Podatki se premikajo samo naprej.

  • Konvolucijske nevronske mreže (CNN) : Odlične za slike zaradi prostorskih filtrov, ki zaznavajo robove, teksture in oblike [2].

  • Rekurentne nevronske mreže (RNN) in njihove različice : Zgrajene za zaporedja, kot so besedilo ali časovne vrste, z ohranjanjem reda [1].

  • Transformatorji : Pozornost namenite modeliranju odnosov med položaji v zaporedju hkrati; prevladujoči v jeziku in širše [3].

  • Grafovske nevronske mreže (GNN) : delujejo na vozliščih in robovih grafa – uporabne za molekule, družbena omrežja, priporočila [1].

  • Avtokodirniki in VAE : Naučite se stisnjenih predstavitev in ustvarite različice [1].

  • Generativni modeli : od GAN-ov do difuzijskih modelov, ki se uporabljajo za slike, zvok in celo kodo [1].

Zapiski CS231n so še posebej prijazni za CNN, medtem ko je članek Transformer glavni vir za modele, ki temeljijo na pozornosti [2, 3].

Primerjalna tabela: pogoste vrste nevronskih mrež, za koga so namenjene, cenovni trendi in zakaj delujejo 📊

Orodje / Vrsta Občinstvo Približno cena Zakaj deluje
Predhodna povratna informacija (MLP) Začetniki, analitiki Nizko-srednje Preproste, prilagodljive, spodobne osnovne črte
CNN Vizualne ekipe Srednje Lokalni vzorci + deljenje parametrov
RNN / LSTM / GRU Ljudje z zaporedjem Srednje Časovni spomin ... zajame red
Transformator NLP, multimodalni Srednje visoko Pozornost se osredotoča na relevantne odnose
GNN Znanstveniki, recsys Srednje Posredovanje sporočil prek grafov razkriva strukturo
Samodejni kodirnik / VAE Raziskovalci Nizko-srednje Uči se stisnjenih predstavitev
GAN / Difuzija Ustvarjalni laboratoriji Srednje visoko Kontradiktorna ali iterativna magija odstranjevanja šuma

Opombe: cena je odvisna od računalništva in časa; vaša poraba se razlikuje. Ena ali dve celici sta namerno klepetali.

»Kaj je nevronska mreža v umetni inteligenci?« v primerjavi s klasičnimi algoritmi strojnega učenja ⚖️

  • Inženiring značilnosti : Klasično strojno učenje se pogosto zanaša na ročne značilnosti. Nevronske mreže se značilnosti učijo samodejno – velika zmaga za kompleksne podatke [1].

  • Podatkovna lakota : Omrežja pogosto blestijo z več podatki; majhna količina podatkov lahko daje prednost enostavnejšim modelom [1].

  • Računalništvo : Omrežja imajo rada pospeševalnike, kot so grafični procesorji [1].

  • Zgornja meja zmogljivosti : Pri nestrukturiranih podatkih (slike, zvok, besedilo) prevladujejo globoke mreže [1, 2].

Potek usposabljanja, ki dejansko deluje v praksi 🛠️

  1. Določite cilj : klasifikacija, regresija, razvrščanje, generiranje - izberite izgubo, ki se ujema.

  2. Obdelava podatkov : Razdelitev na učenje/validacijo/testiranje. Normaliziranje značilnosti. Uravnoteženje razredov. Pri slikah razmislite o dopolnjevanju, kot so obračanje, obrezovanje, majhen šum.

  3. Izbira arhitekture : Začnite preprosto. Zmogljivost dodajte le, kadar je to potrebno.

  4. Učna zanka : Združevanje podatkov. Prehod naprej. Izračun izgube. Nazaj v preteklost. Posodobitev. Beleženje metrik.

  5. Regulacija : Opustitev, izguba teže, zgodnja ustavitev.

  6. Vrednotenje : Za hiperparametre uporabite nabor za validacijo. Za končno preverjanje pripravite nabor za teste.

  7. Previdno pošiljajte : spremljajte zanašanje, preverite morebitne pristranskosti, načrtujte vračanje na prejšnjo raven.

Za celovite, na kodo usmerjene vadnice s trdno teorijo sta odprti učbenik in zapiski CS231n zanesljiva sidra [1, 2].

Prekomerno prilagajanje, posploševanje in druge gremlini 👀

  • Prekomerno prilagajanje : Model si zapomni posebnosti učenja. Popravite z več podatki, močnejšo regularizacijo ali enostavnejšimi arhitekturami.

  • Premalo prilagojeno : Model je prepogost ali pa je trening preveč plah. Povečajte zmogljivost ali trenirajte dlje.

  • Uhajanje podatkov : Informacije iz testnega nabora se prikradejo v usposabljanje. Trikrat preverite svoje razdelitve.

  • Slaba kalibracija : Model, ki je zanesljiv, a hkrati napačen, je nevaren. Razmislite o kalibraciji ali drugačnem uteževanju izgub.

  • Premik distribucije : Podatki iz resničnega sveta se premikajo. Spremljajte in prilagajajte.

Za teorijo posploševanja in regularizacije se oprite na standardne reference [1, 2].

Varnost, razumljivost in odgovorna uporaba 🧭

Nevronske mreže lahko sprejemajo odločitve z visokimi vložki. Ni dovolj, da se dobro uvrstijo na lestvico najboljših. Potrebujete korake upravljanja, merjenja in blaženja skozi celoten življenjski cikel. Okvir NIST za upravljanje tveganj z umetno inteligenco opisuje praktične funkcije – UPRAVLJANJE, MAPIRANJE, MERJENJE, UPRAVLJANJE – ki pomagajo ekipam pri integraciji upravljanja tveganj v načrtovanje in uvajanje [5].

Nekaj ​​hitrih namigov:

  • Preverjanje pristranskosti : Ocenite po demografskih skupinah, kjer je to primerno in zakonito.

  • Interpretabilnost : Uporabite tehnike, kot sta poudarek ali pripisovanje značilnosti. So nepopolne, a uporabne.

  • Spremljanje : Nastavite opozorila za nenadne padce metrik ali premike podatkov.

  • Človeški nadzor : Obveščajte ljudi o odločitvah, ki imajo velik vpliv. Brez junaštva, samo higiena.

Pogosto zastavljena vprašanja, ki ste si jih na skrivaj zastavljali 🙋

Je nevronska mreža v bistvu možgani?

Navdihnjeno z možgani, da - vendar poenostavljeno. Nevroni v omrežjih so matematične funkcije; biološki nevroni so žive celice s kompleksno dinamiko. Podobne vibracije, zelo različna fizika [1].

Koliko plasti potrebujem?

Začnite z majhnim. Če niste dovolj prilagodljivi, dodajte širino ali globino. Če ste preveč prilagodljivi, regularizirajte ali zmanjšajte kapaciteto. Ni čarobne številke; obstajajo le validacijske krivulje in potrpežljivost [1].

Ali vedno potrebujem grafično kartico?

Ne vedno. Majhni modeli na skromnih podatkih se lahko učijo na CPE-jih, toda za slike, velike besedilne modele ali velike nabore podatkov pospeševalniki prihranijo ogromno časa [1].

Zakaj ljudje pravijo, da je pozornost močna?

Ker pozornost modelom omogoča, da se osredotočijo na najpomembnejše dele vnosa, ne da bi se strogo držali vrstnega reda. Zajame globalne odnose, kar je zelo pomembno za jezikovne in multimodalne naloge [3].

Ali se vprašanje »Kaj je nevronska mreža v umetni inteligenci?« razlikuje od vprašanja »Kaj je globoko učenje«?

Globoko učenje je širši pristop, ki uporablja globoke nevronske mreže. Torej je vprašanje Kaj je nevronska mreža v umetni inteligenci? podobno kot vprašanje o glavnem junaku; globoko učenje je celoten film [1].

Praktični, rahlo svojeglavi nasveti 💡

  • dajte prednost preprostim izhodiščnim vrednostim . Že majhen večplastni perceptron vam lahko pove, ali se je podatke mogoče naučiti.

  • Poskrbite za ponovljivost podatkovnega cevovoda . Če ga ne morete ponovno zagnati, mu ne morete zaupati.

  • Hitrost učenja je pomembnejša, kot si mislite. Poskusite z urnikom. Ogrevanje lahko pomaga.

  • kompromisi glede velikosti serije . Večje serije stabilizirajo gradiente, vendar se lahko posplošujejo drugače.

  • Ko ste zmedeni, narišite krivulje izgube teže in norme teže . Presenečeni boste, kako pogosto je odgovor na grafih.

  • Dokumentirajte predpostavke. Prihodnost - vi hitro pozablja stvari [1, 2].

Poglobljen vpogled: vloga podatkov ali zakaj smeti noter še vedno pomenijo smeti ven 🗑️➡️✨

Nevronske mreže ne popravijo čarobno pomanjkljivih podatkov. Napačne oznake, napake v opombah ali ozko vzorčenje bodo odmevale skozi model. Urejajte, revidirajte in dopolnjujte. In če niste prepričani, ali potrebujete več podatkov ali boljši model, je odgovor pogosto nadležno preprost: oboje – vendar začnite s kakovostjo podatkov [1].

»Kaj je nevronska mreža v umetni inteligenci?« – kratke definicije, ki jih lahko ponovno uporabite 🧾

  • Nevronska mreža je večplastni funkcijski aproksimator, ki se uči kompleksnih vzorcev s prilagajanjem uteži z uporabo gradientnih signalov [1, 2].

  • Gre za sistem, ki s pomočjo zaporednih nelinearnih korakov pretvarja vhodne podatke v izhodne podatke, usposobljen za zmanjšanje izgube [1].

  • Gre za prilagodljiv, podatkovno lačen pristop k modeliranju, ki uspeva na podlagi nestrukturiranih vhodnih podatkov, kot so slike, besedilo in zvok [1, 2, 3].

Predolgo, nisem bral in zadnje opombe 🎯

Če vas kdo vpraša, kaj je nevronska mreža v umetni inteligenci?, je tukaj kratek odgovor: nevronska mreža je sklad preprostih enot, ki korak za korakom preoblikujejo podatke, pri čemer se učijo transformacije z minimiziranjem izgube in sledenjem gradientom. So zmogljive, ker se prilagajajo velikosti, samodejno učijo funkcij in lahko predstavljajo zelo kompleksne funkcije [1, 4]. So tvegane, če zanemarite kakovost podatkov, upravljanje ali spremljanje [5]. In niso čarovnija. Samo matematika, računalništvo in dobro inženirstvo – s kančkom okusa.

Nadaljnje branje, skrbno izbrano (dodatki brez citiranja)

Reference

[1] Goodfellow, I., Bengio, Y. in Courville, A. Globoko učenje . MIT Press. Brezplačna spletna različica: preberite več

[2] Stanford CS231n. Konvolucijske nevronske mreže za vizualno prepoznavanje (opombe k predmetu): preberite več

[3] Vaswani, A., Shazeer, N., Parmar, N. in sod. (2017). Pozornost je vse, kar potrebujete . NeurIPS. arXiv: preberite več

[4] Cybenko, G. (1989). Aproksimacija sigmoidne funkcije s superpozicijami . Mathematics of Control, Signals and Systems , 2, 303–314. Springer: preberite več

[5] NIST. Okvir za upravljanje tveganj umetne inteligence (AI RMF) : preberite več

Poiščite najnovejšo umetno inteligenco v uradni trgovini z umetno inteligenco

O nas

Nazaj na blog