Formális nyelvtan

A Wikipédiából, a szabad enciklopédiából

A formális nyelvtan informatikai értelemben egy absztrakt struktúra, amely pontosan leír egy formális nyelvet. A formális nyelveket, valamint az emberi nyelveket leíró nyelvtanok között bizonyos analógiák figyelhetők meg. A formális nyelvek és formális nyelvtanok vizsgálatának egyik legjelentősebb úttörője Noam Chomsky, akinek a munkássága egyaránt hatott a formális nyelvek és a természetes nyelvek kutatására is.

A formális nyelvtanok két fő kategóriába oszthatók: generatív és analitikus nyelvtanok.

  • Egy generatív nyelvtan, a legismertebb kategória, azoknak a szabályoknak a halmaza, amelyekkel minden, a nyelvben lehetséges jelsorozat előállítható, azaz leírja, hogyan lehet előállítani egy átírási eljárással a kitüntetett kezdő szimbólumból a többi jelsorozatot a szabályokat egymás után alkalmazásával. A generatív nyelvtan a valóságban egy algoritmust formalizál, ami a nyelv összes jelsorozatát generálja.
  • Egy analitikus nyelvtan, ellenpólusként, azoknak a szabályoknak a halmaza, amelyeknek egy bemenő jelsorozatra való egymás utáni alkalmazása (redukció vagy elemzés) végül egy logikai, boolean típusú eredményt ad, azaz "igen/nem" választ ad arra a kérdésre, hogy a bemenő jelsorozat a nyelvtannal leírt nyelvnek megfelel vagy sem. Egy analitikus nyelvtan a valóságban egy nyelv elemzőjének formalizált leírást adja meg.

Röviden, egy analitikus nyelvtan leírja, hogyan olvassuk a nyelvet, amíg egy generatív nyelvtan azt írja le, hogyan írjuk.

Generatív nyelvtanok[szerkesztés | forrásszöveg szerkesztése]

Egy generatív nyelvtan a jelsorozatok transzformációs szabályait leíró szabályok halmazából áll. A nyelvet alkotó jelsorozatok létrehozásához szükséges, hogy legyen egy egyedi „kezdő” szimbólum, ezután csak a szabályokat kell egymás után alkalmazni (bárhányszor, tetszés szerinti sorrendben) a kezdő szimbólum átalakítására. A nyelv azokból a jelsorozatokból áll, amelyeket az említett módon elő lehet állítani. A szabályok alkalmazásának megengedett lehetőségei közül bármilyen különleges sorrend alkalmazásával az átalakításokkal létrehozhatók jelsorozatok, de ha ezek közül a jelsorozatok közül egyet is többféleképpen is elő lehet állítani, akkor a nyelvtant kétértelműnek nevezik.

Tegyük fel például, hogy egy ábécéhez a 'a' és a 'b' szimbólumok tartoznak, a kezdő szimbólum pedig legyen az 'S' és adottak a következő szabályok:

1. S \longrightarrow aSb
2. S \longrightarrow ba

Kezdő szimbólumunk a „S”, de ezután kiválaszthatjuk, hogy melyik szabályt alkalmazzuk a jelsorozat következő elemének előállításához. Ha az 1-es szabályt választjuk, akkor annak alapján az 'S' szimbólumot a 'aSb'-al helyettesítjük, eredményül tehát a „aSb” jelsorozatot kapjuk. Ha most ismételten az 1-es szabály alkalmazását választjuk, akkor helyettesítjük az 'S' szimbólumot a 'aSb'-vel, és akkor a „aaSbb” jelsorozatot kapjuk. Ezt az eljárást addig ismételhetjük, amíg az ábécé szimbólumai megengedik (esetünkben 'a' és 'b'). Befejezve a példát, most válasszuk a 2-es szabályt, helyettesítsük az 'S' szimbólumot a 'ba' jelsorozattal, eredményül pedig a „aababb” jelsorozatot kapjuk, és ezzel be is fejeztük.

Az adott szimbólumokat használva a fentieket sokkal egyszerűbb formában is leírhatjuk: S \longrightarrow aSb \longrightarrow aaSbb \longrightarrow aababb.

A nyelvtan által meghatározott nyelv nem lesz más, mint az összes olyan jelsorozat halmaza, amelyeket ezzel az eljárással elő tudunk állítani: \left \{ba, abab, aababb, aaababbb, ...\right \}.

Formális definíció[szerkesztés | forrásszöveg szerkesztése]

Noam Chomsky az 1950-es években javasolta először a generatív nyelvtanok klasszikus formalizálást, ami szerint egy G nyelvtan a következő komponensekből áll:

  • N a nem-terminális szimbólumok véges halmaza;
  • \Sigma a terminális szimbólumok véges halmaza, aminek nincs közös része N-nel;
  • P a produkciós szabályok véges halmaza, ahol a szabályok a következő formában adottak
(\Sigma \cup N)^{*} beli jelsorozat \longrightarrow (\Sigma \cup N)^{*}-beli jelsorozat
(ahol {}^{*} a Kleene star és \cup az unió művelet) azzal a megkötéssel, hogy a szabály bal oldalának (bal oldali rész a \longrightarrow előtt) legalább egy nem-terminális szimbólumot tartalmaznia kell.
  • Az N halmazhoz tartozó S szimbólum, ami a kezdő szimbólumot jelöli.

Gyakran a G formális nyelvtan jelölésé a (N, \Sigma, P, S) négyessel történik.

A G = (N, \Sigma, P, S), formális nyelvtannal meghatározott nyelvet jelölik a \boldsymbol{L}(G) szimbólummal is. Ezzel meghatároznak minden olyan, a \Sigma halmazból generálható jelsorozatot, amelyeket a P halmazban lévő produkciós szabályok egymásutáni alkalmazásával a S kezdő szimbólumot kezdőként alkalmazva létrehozható, addig, amíg a nem-terminális szimbólumok készlete rendelkezésre áll.

Példa[szerkesztés | forrásszöveg szerkesztése]

A következő példáknál a formális nyelvet a halmaz-felépítő jelölés használatával határozzuk meg.

Például, tételezzük fel a G nyelvtanról, hogy a következőkből áll:

N = \left \{S, B\right \}, \Sigma = \left \{a, b, c\right \}, P pedig a következő produkciós szabályokat tartalmazza:

1. S \longrightarrow aBSc
2. S \longrightarrow abc
3. Ba \longrightarrow aB
4. Bb \longrightarrow bb ,

és az S nem-terminális szimbólum a kezdő szimbólum.

Néhány példa arra, hogyan származtathatók a jelsorozatok a \boldsymbol{L}(G) nyelvben:

  • \boldsymbol{S} \longrightarrow (2) abc
  • \boldsymbol{S} \longrightarrow (1) aB\boldsymbol{S}c \longrightarrow (2) a\boldsymbol{Ba}bcc \longrightarrow (3) aa\boldsymbol{Bb}cc \longrightarrow (4) aabbcc
  • \boldsymbol{S} \longrightarrow (1) aB\boldsymbol{S}c \longrightarrow (1) aBaB\boldsymbol{S}cc \longrightarrow (2) a\boldsymbol{Ba}Babccc \longrightarrow (3) aaB\boldsymbol{Ba}bccc\longrightarrow (3) aa\boldsymbol{Ba}Bbccc  \longrightarrow (3) aaaB\boldsymbol{Bb}ccc \longrightarrow (4) aaa\boldsymbol{Bb}bccc \longrightarrow (4) aaabbbccc

(a jelsorozatok előállításánál használt produkciós szabály azonosítója a zárójelben van, a helyettesíthető rész pedig vastagon szedett).

Egyértelmű, hogy a fenti nyelvtan meghatározza a \left \{ a^{n}b^{n}c^{n} | n > 0 \right \} nyelvet, ahol a^{n} jelöli azt a jelsorozatot, amely n darab a-ból áll. Következésképpen, az egész nyelv bármilyen pozitív számú 'a'-t követő azonos számú 'b'-ből és azonos számú 'c'-ből álló jelsorozatból áll.

A generatív formális nyelvtanok identikusak a Lindenmayer rendszerekkel (L-rendszerek), kivéve, hogy az L-rendszerekben nincsen különbség a terminálisok és s nem-terminálisok között, valamint az L-rendszerek megszorítást tartalmaznak a szabályok alkalmazásának sorrendjére, és az L-rendszerek nem állnak le, ezért végtelen jelsorozat szekvenciákat generálnak.

A Chomsky-féle hierarchia[szerkesztés | forrásszöveg szerkesztése]

Amikor az 1950-es években Noam Chomsky először formalizálta a generatív nyelvtanokat, akkor négy típusba sorolta be azokat. Ezek a csoportok ma Chomsky-féle hierarchiaként ismertek. Az egyes típusok között a különbség a produkciós szabályok szigorúságában jelenik meg. Két fontos típus a környezetfüggetlen nyelvtanok és a szabályos nyelvtanok. Azok a nyelvek, amelyek valamilyen nyelvtannal leírhatók azok az úgynevezett környezetfüggetlen nyelvek illetőleg a szabályos nyelvek. Habár kevésbé hatékonyak, mint a megkötés nélküli nyelvtanok, amelyek ténylegesen le tudnak írni bármilyen nyelvet, amelyek a Turing-gépekkel elfogadhatóak, ezen megkötések miatt inkább az ilyen nyelvtanok hatékonyan elemzők segítségével valósíthatók meg. Például, a környezetfüggetlen nyelvtanok a jól ismert algoritmusokat megvalósító LL elemzők és LR elemzők segítségével elemezhetők hatékonyan.

  Nyelvtanok Nyelvek Automaták Produkciós szabályok
0. nyelvosztály Rekurzívan megszámlálható Rekurzívan megszámlálható Turing-gép Nincs megkötés
1. nyelvosztály környezetfüggő környezetfüggő Korlátos nem determinisztikus Turing-gép \alpha A\beta \rightarrow \alpha\gamma\beta
2. nyelvosztály környezetfüggetlen környezetfüggetlen Nem determinisztikus veremautomata A \rightarrow \gamma
3. nyelvosztály Szabályos Szabályos Véges determinisztikus automata A \rightarrow a és

egyébként A \rightarrow aB
vagy A \rightarrow Ba

Környezetfüggetlen nyelvtanok[szerkesztés | forrásszöveg szerkesztése]

A környezetfüggetlen nyelvtanok esetében, a produkciós szabályok bal oldalán csak egy egymagában álló nem-terminális szimbólum lehet. Az előzőekben meghatározott nyelv nem volt környezetfüggetlen nyelv. Környezetfüggetlen nyelv viszont a \left \{ a^{n}b^{n} | n > 0 \right \} (bármely pozitív számú 'a'-t azonos számú 'b' követ) nyelv, amelynek G2 a nyelvtana és az N=\left \{S\right \}, \Sigma=\left \{a,b\right \}, és S a kezdő szimbólumok határoznak meg, valamint a következő produkciós szabályok:

1. S \longrightarrow aSb
2. S \longrightarrow ab

Reguláris (szabályos) nyelvtanok[szerkesztés | forrásszöveg szerkesztése]

A reguláris nyelvtanokban, a bal oldalon szintén csak egy egyedülálló nem-terminális szimbólum állhat, de most a jobb oldalra is megkötést kell tenni: lehet üres, lehet egyetlen terminális szimbólum és lehet egy egyedül álló terminális szimbólumot követő nem-terminális szimbólum. (Néha egy tágabb meghatározás használatos: megengedett egy eset a következők közül: vagy terminálisok hosszabb jelsorozata vagy egy egyedül álló, önálló nem-terminális.)

Az előzőekben meghatározott nyelv nem reguláris, de a \left \{ a^{n}b^{m} | m,n > 0 \right \} nyelv (bármilyen pozitív számú 'a'-kat követő bármilyen pozitív számú 'b'-k, ahol a számok különbözőek is lehetnek) már reguláris, és meghatározható a G3 nyelvvel, ami az N=\left \{S, A,B\right \}, \Sigma=\left \{a,b\right \}, és a S kezdő szimbólummal, valamint a következő produkciós szabályokkal van meghatározva:

1. S \longrightarrow aA
2. A \longrightarrow aA
3. A \longrightarrow bB
4. B \longrightarrow bB
5. B \longrightarrow \epsilon

A gyakorlatban a reguláris nyelvtanok leírására reguláris kifejezéseket (szabályos kifejezéseket) használnak.

Szabályos- és környezetfüggetlen nyelvek összehasonlítása[szerkesztés | forrásszöveg szerkesztése]

A produkció szabályok különbözősége oldaláról a kétfajta nyelv közötti alapvető különbség az \left \{ a^{n}b^{n} | n > 0 \right \} (környezetfüggetlen) és az \left \{ a^{n}b^{m} | n,m > 0 \right \} (szabályos) között az, hogy a környezetfüggetlen nyelv esetén az 'a'-k és a 'b'-k száma azonos kell, hogy legyen. Ennélfogva, bármilyen automata segítségével történő környezetfüggetlen nyelv felismerésének megkísérlésekor elengedhetetlenül szükséges, hogy több információt kell figyelembe venni, mint a szabályos nyelv esetében. A továbbiakban nem kell foglalkoznunk az 'a'-k vagy a 'b'-k számával, viszont fel kell tételeznünk, hogy a számuk nullánál nagyobb.

A részleteket lásd a környezetfüggetlen nyelv és szabályos nyelv szócikkek alatt.

A generatív nyelvtanok egyéb formái[szerkesztés | forrásszöveg szerkesztése]

A formális nyelvtanok eredeti Chomsky-féle hierarchiájának legtöbb kiterjesztésének és változatának kifejlesztését a nyelvészek és a számítógép-tudomány képviselői nemrégen végezték el, mindketten általában azzal a céllal, hogy az elemzők teljesítményét megnöveljék. Természetesen ezek a célok sajátságos eredményeket hoztak: minél kifejezőbb nyelvtani formalizmusok, az automatizált eszközök egyre nehezebben használhatók az elemzéseknél. A nyelvtanok néhány formája ezen sajátos eredményekre tekintettel került kifejlesztésre:

  • Fa-szomszédos nyelvtanok megnövelik a konvencionális generatív nyelvtanok kifejező képességét azzal, hogy megengedik az elemzési szabályok, pontosabban az elemzési fa átírását a stringek helyett.
  • Affix nyelvtanok és attribútum nyelvtanok megengedik a szabályok átírását szemantikai attribútumok és operátok hatására, amivel egyrészt megnő a nyelvtan kifejezőképessége, másrészt hatékonyabb nyelvi elemző és fordító eszközök készíthetők.

Analitikus nyelvtanok[szerkesztés | forrásszöveg szerkesztése]

Habár a rendelkezésre álló elemző algoritmusokkal foglalkozó irodalom igen terjedelmes, ezek közül az algoritmusok közül a legtöbb azt feltételezi, hogy az elemzendő nyelv leírása egy generatív formális nyelvtant jelent, és az a cél, hogy átalakítsa ezt a generatív nyelvtant egy működő elemzővé. Egy másik lehetséges megközelítés a nyelvet elsődlegesen egy analitikus nyelvtannal formalizálja, amely sokkal közvetlenebb kapcsolatot biztosít az elemző és az elemzendő nyelv struktúrája között. Az analitikus nyelvtanokkal történő formalizálást mutatja be a következő néhány példa:

  • The Language Machine közvetlenül valósít meg korlátozások nélküli analitikus nyelvtanokat. A helyettesítési szabályok alkalmazásával vezérelhető a bemenetek és kimenetek közötti kapcsolat, illetve a rendszer viselkedése. A rendszer előállít úgynevezett lm-diagramot is, amely megmutatja, mi történik a korlátozások nélküli analitikus nyelvtan szabályainak alkalmazásakor.
  • fentről-lefelé elemző nyelv (TDPL, az angol Top-Down Parser Language rövidítése): a nagyon minimalista analitikus nyelvtan kifejlesztése az 1970-es években történt, amikor a top-down elemzők viselkedést tanulmányozták.
  • Parsing expression nyelvtanok (PEGs): a TDPL egy újkeletű általánosításával tervezett gyakorlati megvalósítás a compiler írók számára.
  • Kapcsolati nyelvtanok: nyelvészeti célokra kifejlesztett analitikus nyelvtan, amely a szintaktikai struktúrát szópárok kapcsolatainak alapján hozza létre.

Lásd még[szerkesztés | forrásszöveg szerkesztése]