Diplomová práce opravená verze

MASARYKOVA UNIVERZITA PŘÍRODOVĚDECKÁ FAKULTA ÚSTAV MATEMATIKY A STATISTIKY Diplomová práce opravená verze BRNO 015/017 JANA BARTOŇOVÁ

MASARYKOVA UNIVERZITA PŘÍRODOVĚDECKÁ FAKULTA ÚSTAV MATEMATIKY A STATISTIKY Straubingova Thérienova hierarchie jazyků Diplomová práce opravená verze Jana Bartoňová Vedoucí práce: doc. Mgr. Ondřej Klíma, Ph.D.

Abstrakt Tato diplomová práce se zabývá jednou z tzv. zřetězovacích hierarchií star-free jazyků Straubingovou Thérienovou hierarchií. Je zaměřena především na seznámení s prostředky, které byly použity při charakterizaci stupňů 5, a 7 této hierarchie. Hlavním zkoumaným nástrojem je speciální typ Ehrenfeuchtových Fraïssého her. Abstract In this thesis we study one of so-called concatenation hierarchies of star-free languages Straubing Thérien hierarchy. The thesis is aimed primarily at investigating tools which were used to obtain decidable characterizations of levels 5,, and 7 of this hierarchy. The main examined tool is a special type of Ehrenfeucht-Fraïssé games.

Poděkování Velké poděkování patří vedoucímu mé práce doc. Ondřeji Klímovi. Většina materiálu obsaženého v této práci vznikla na základě jeho podnětů na společných konzultacích vedených za účelem porozumění novému výsledku T. Placeho a M. Zeitouna. Navíc tyto konzultace značně zvýšily můj zájem o danou oblast, což se projevilo především chutí do práce a do studování nových věcí. Díky tomu a díky ochotě mého vedoucího neúnavně odpovídat na moje dotazy jsem se toho mnoho naučila. Dále Ondřeji Klímovi děkuji za průběžné čtení mého textu, za opravu chyb a připomínky. Zvláštní poděkování si zaslouží má sestra Pavla za ochotu poslouchat mé monology o tom, čím se zrovna zabývám, za účast v diskuzích a za pomoc při posledních úpravách textu. Nakonec bych chtěla poděkovat rodině a přátelům, především mým skvělým spolubydlícím, za podporu. Dodatek k poděkování (březen 017) Při tvorbě této upravené verze jsem vycházela především z podrobného seznamu připomínek oponenta práce doc. Michala Kunce. Tímto mu za poskytnuté připomínky k práci vyjadřuji velký vděk. Prohlášení Prohlašuji, že jsem svoji diplomovou práci vypracovala samostatně s využitím informačních zdrojů, které jsou v práci citovány. Brno 13. května 015.......................... Jana Bartoňová

Obsah Úvod....................................................................... vii Kapitola 1. Algebraický základ............................................. 1 1.1 Monoidy.............................................. 1 1. Uspořádané monoidy..................................... 1.3 Volný monoid a regulární jazyky............................. 4 1.4 Konečné monoidy a faktorizační lesy.......................... 6 1.5 Pseudovariety a pseudoidentity.............................. 7 1.6 Variety regulárních jazyků.................................. 10 Kapitola. Straubingova Thérienova hierarchie algebraicky................. 13.1 Polynomiální a booleovský uzávěr............................ 13. Definice hierarchie a její základní vlastnosti...................... 14.3 Stupně 0 a 1........................................... 18.4 Stupeň 1.............................................. 18.5 Stupeň 3.............................................. 19.6 Další stupně........................................... 0.6.1 Stupeň.......................................... 0.6. Poloviční stupně.................................... 1 Kapitola 3. ST-hierarchie v predikátové logice............................... 3.1 Syntaxe a sémantika FO[<]................................. 3. Hierarchie formulí....................................... 6 3.3 Zjemnění hierarchie...................................... 30 3.4 Ehrenfeuchtovy Fraïssého hry............................... 40 3.5 Vlastnosti relace k i...................................... 45 Kapitola 4. Algebraická interpretace........................................ 56 4.1 Lokálně konečné pseudovariety.............................. 56 4. Souvislost s relací k i..................................... 61 Kapitola 5. Charakterizace vyšších stupňů ST-hierarchie..................... 64 5.1 Poloviční stupně........................................ 64 5. Stupně i............................................. 68 v

5.3 Stupeň.............................................. 71 Závěr...................................................................... 75 Seznam použité literatury................................................... 76

Úvod Tato diplomová práce se zabývá jednou z tzv. zřetězovacích hierarchií star-free jazyků. Star-free jazyk je regulární jazyk, který lze vytvořit pomocí regulárního výrazu bez použití iterace a namísto ní s možným použitím doplňku. Je to tedy jazyk, který lze vytvořit pomocí konečného počtu aplikací operací sjednocení, zřetězení a doplňku na jazyky skládající se z jednoho jednopísmenného slova. Zřetězovací hierarchie star-free jazyků nad danou abecedou A vznikne postupným aplikováním operace zřetězení a booleovských operací (tj. operací sjednocení, průniku a doplňku) na nějakou základní množinu star-free jazyků nad A, která tvoří nultý stupeň této hierarchie. Pak pro libovolné nezáporné celé číslo n stupeň n + 1 vznikne uzavřením stupně n na operaci zřetězení a stupeň n + 1 vznikne uzavřením stupně n + 1 na booleovské operace. Tímto postupem dostaneme nekonečnou posloupnost množin star-free jazyků nad A, jejichž sjednocením je množina všech star-free jazyků nad A. Hlavním zkoumaným problémem týkajícím se zřetězovacích hierarchií je pro daný stupeň dané hierarchie najít takovou charakterizaci, která umožní algoritmicky rozhodovat, zda zadaný jazyk patří do tohoto stupně. Tento problém se ukázal být velice obtížný. V nejznámějších přirozeně vzniklých zřetězovacích hierarchiích jsou takové charakterizace známy jen pro několik nejnižších stupňů. Straubingova Thérienova hierarchie je zřetězovací hierarchie star-free jazyků, kde za nultý stupeň vezmeme pro danou abecedu A co možná nejjednodušší množinu jazyků s pěknými vlastnostmi, a to množinu obsahující pouze prázdný jazyk a jazyk A, tj. jazyk všech slov nad abecedou A. V této hierarchii byly donedávna známy pouze charakterizace stupňů 0, 1,1 a 3. V roce 014 publikovali francouzští informatici T. Place a M. Zeitoun článek s efektivní charakterizací stupňů a 5. Zvláště zajímavý a nejednoduchý výsledek je charakterizace stupně, jejíž důkaz má rozsah více než 0 stran. Důkazy charakterizačních vět pro stupně i 5 jsou provedeny pomocí prostředků predikátové logiky, jejíž souvislost se Straubingovou Thérienovou hierarchií je známa od roku 1986. Za použití podobných technik uvedl T. Place roku 015 efektivní charakterizaci stupně 7. Tato práce seznamuje s prostředky použitými pro charakterizaci stupňů a 5. V úvodní kapitole jsou shrnuty algebraické poznatky používané v ostatních kapitolách. Ve druhé kapitole je definována Straubingova Thérienova hierarchie, jsou v ní uvedeny základní vlastnosti této hierarchie a dále stručný přehled známých výsledků o jednotlivých stupních před rokem 014. Třetí kapitola, nejobsáhlejší kapitola práce, je věnována predikátové logice a její souvislosti se Straubingovou Thérienovou hierarchií. Především je v ní podrobně rozebrán speciální typ Ehrenfeuchtových Fraïssého her vhodný právě pro Straubingovu Thérienovu hierarchii. Text vychází ze Straubingovy knihy [6], která obsahuje popis predikátové vii

Úvod viii logiky na slovech a její souvislost s obecným typem Ehrenfeuchtových Fraïssého her, a z článku [1], kde je definován typ hry potřebný pro popis Straubingovy Thérienovy hierarchie a jsou v něm uvedena tvrzení s těmito hrami související, avšak až na pár výjimek bez důkazů. Většina důkazů v této kapitole je tedy vlastních a důkazy odněkud převzaté jsou přepracované do detailnější podoby. Čtvrtá kapitola objasňuje souvislost jisté důležité relace k i, zavedené v článku [1] a zpracované ve třetí kapitole této práce, s algebraickými vlastnostmi pseudovariet uspořádaných monoidů. Jde o nepříliš složitá tvrzení, v článku [1] se však nevyskytující. V poslední, páté kapitole je podle článku [1] zpracován důkaz charakterizační věty pro poloviční stupně a jednodušší implikace charakterizační věty pro stupeň. V těchto důkazech jsou využita tvrzení, která byla dokázána ve třetí kapitole. Dále tato kapitola obsahuje výsledek z článku [1] z roku 015, který poskytuje efektivní charakterizaci stupně 4 pomocí stupně 5. Stupně i jsou definovány pomocí predikátové logiky a tvoří další mezistupně ve Straubingově Thérienově hierarchii jazyky definované v i+1 tvoří mezistupeň mezi stupni i a i + 1.

Kapitola 1 Algebraický základ V této kapitole je uveden přehled poznatků z algebraické teorie regulárních jazyků potřebných k porozumění obsahu dalších kapitol. Ačkoliv text zahrnuje i připomenutí základních pojmů z algebry, není určen pro úplné začátečníky v této oblasti. Text předpokládá přinejmenším zkušenost s prací s regulárními jazyky a obeznámenost se základy univerzální algebry. Celá kapitola vychází především z textu J.-É. Pina [16] a dále z učebního textu M. Kunce [1]. Některé definice a obrázky jsou převzaty z mé bakalářské práce [6]. Pokud jsou nějaké pasáže zpracovány podle jiného zdroje, je na to v příslušném místě upozorněno. Všechny věty v této kapitole jsou z důvodu zachování rozumné délky práce uvedeny bez důkazů. U důležitých obtížnějších vět jsou uvedeny odkazy přímo na díla, ve kterých byly výsledky původně publikovány. 1.1 Monoidy Monoid je množina M spolu s binární asociativní operací na M a obsahující neutrální prvek vzhledem k této operaci. Operaci na M budeme značit symbolem a budeme o ní někdy mluvit jako o násobení. Přitom symbol budeme používat pro označení operací v různých monoidech a často jej budeme v zápisech vynechávat. Neutrální prvek monoidu M budeme označovat symbolem 1. Tento symbol budeme také často používat pro označení neutrálních prvků v různých monoidech. Monoid (N, N,1 N ) je podmonoidem monoidu (M, M,1 M ), pokud pro něj platí N M, N = M N N, 1 N = 1 M. Součin monoidů (M, M,1 M ) a (N, N,1 N ) je monoid (M N,,1), kde (s 1,s ) (t 1,t ) = (s 1 M t 1,s N t ) a 1 = (1 M,1 N ). Necht M,N jsou monoidy. Zobrazení α : M N nazveme homomorfismus, pokud pro všechny prvky s,t M platí α(st) = α(s)α(t) a α(1) = 1. Izomorfismus monoidů je bijektivní homomorfismus. 1

Kapitola 1. Algebraický základ Necht M je monoid a R je binární relace na M. Řekneme, že relace R je stabilní, jestliže pro všechna s 1,s,t 1,t M platí ( (s1,s ) R (t 1,t ) R ) = (s 1 t 1,s t ) R. Předuspořádání je reflexivní a tranzitivní binární relace. Věta 1.1. Necht M je monoid a R je předuspořádání na M. Pak R je stabilní právě tehdy, když pro všechna r, s,t M platí (s,t) R = ( (rs,rt) R (sr,tr) R ). Kongruence na monoidu M je stabilní relace ekvivalence na M. Necht M je libovolná množina a je relace ekvivalence na M. Pak pro každý prvek s M bude [s] označovat třídu ekvivalence obsahující s. Necht (M, M,1) je monoid a je kongruence na M. Na množině M/ definujeme binární operaci předpisem [s] [t] = [s M t]. Tato definice je korektní a (M/,,[1] ) je monoid. Nazýváme jej faktorový monoid monoidu M. 1. Uspořádané monoidy V této práci se budeme zabývat především uspořádanými monoidy. Proto si všechny základní algebraické konstrukce zavedeme přímo pro uspořádané monoidy. Tvrzení obsažená v této podkapitole a jejich důkazy lze v mírně obecnější podobě nalézt v bakalářské práci [3]. Uspořádaný monoid je monoid M spolu se stabilním uspořádáním na M. Podmonoid uspořádaného monoidu (M, ) je uspořádaný monoid (N, N ), kde N je podmonoid monoidu M a platí N = {(s,t) N N s t}. Součin uspořádaných monoidů (M, M ) a (N, N ) je uspořádaný monoid (M N, ), kde uspořádání je definováno takto: (s 1,s ) (t 1,t ) ( s 1 M t 1 s N t ). Necht M, N jsou uspořádané monoidy. Zobrazení α : M N je homomorfismem uspořádaných monoidů, je-li to homomorfismus monoidů a navíc pro všechna s,t M platí s t = α(s) α(t). Zobrazení α : M N je izomorfismus uspořádaných monoidů, je-li to bijektivní homomorfismus uspořádaných monoidů a inverzní zobrazení α 1 : N M je rovněž homomorfismus uspořádaných monoidů.

Kapitola 1. Algebraický základ 3 Věta 1.. Necht α : M N je homomorfismus uspořádaných monoidů. Pak α(m) = = {α(s) s M} je podmonoid uspořádaného monoidu N. Uspořádaný monoid α(m) z předchozí věty nazýváme homomorfním obrazem uspořádaného monoidu M. Věta 1.3. Necht M,N jsou uspořádané monoidy a M N je jejich součin. Pak zobrazení p 1 : M N M a p : M N N definovaná předpisy p 1 (s,t) = s a p (s,t) = t jsou surjektivní homomorfismy uspořádaných monoidů. Homomorfismus p 1, resp. p z předchozí věty nazýváme první, resp. druhá projekce ze součinu M N. Věta 1.4 (Univerzální vlastnost součinu). Necht M 1,M,N jsou uspořádané monoidy a α : N M 1, β : N M jsou homomorfismy uspořádaných monoidů. Necht p 1, resp. p jsou první, resp. druhá projekce ze součinu M 1 M. Pak existuje jediné zobrazení γ : N M 1 M splňující vztahy α = p 1 γ a β = p γ. Navíc γ je homomorfismus uspořádaných monoidů. α M 1 p 1 N γ M 1 M β M p Necht je stabilní předuspořádání na monoidu M a je ekvivalence indukovaná tímto předuspořádáním. Pak je zřejmě kongruence a na faktorovém monoidu M/ máme indukované uspořádání definované předpisem: [s] [t] s t. Uspořádání je zřejmě stabilní. Uspořádaný monoid (M/, ) budeme značit M/ a pro každý prvek s M bude [s] označovat prvek monoidu M/ obsahující s. Věta 1.5. Necht M je monoid a je stabilní předuspořádání na monoidu M. Pak zobrazení π : M M/ definované předpisem π(s) = [s] je surjektivní homomorfismus monoidů. Homomorfismus π z předchozí věty nazýváme projekce monoidu M na uspořádaný faktorový monoid M/. Necht M je monoid, N je uspořádaný monoid a α : M N je homomorfismus monoidů. Pak množina Ker(α) = {(s,t) M M α(s) α(t)} je stabilní předuspořádání na monoidu M a nazývá se jádro homomorfismu α.

Kapitola 1. Algebraický základ 4 Věta 1.6 (Hlavní věta o faktorizaci). Necht M je monoid, N je uspořádaný monoid a α : M N je homomorfismus monoidů. Necht je stabilní předuspořádání na monoidu M splňující Ker(α) a π : M M/ je projekce na uspořádaný faktorový monoid. Pak existuje jediné zobrazení β : M/ N splňující α = β π. Navíc platí následující tvrzení: 1. β je homomorfismus uspořádaných monoidů,. β je surjektivní, právě když je α surjektivní. M α N π M/ β Poznámka. Každý monoid M lze chápat jako uspořádaný monoid (M, =), kde za příslušné stabilní uspořádaní na M vezmeme rovnost. Uspořádané monoidy jsou potom zobecněním monoidů uspořádaných rovností. Proto lze všechny definice a tvrzení z této podkapitoly analogicky formulovat pro obyčejné monoidy. V dalším textu budeme používat jednak uvedené pojmy a tvrzení týkající se uspořádaných monoidů, jednak jejich analogie pro případ obyčejných monoidů. 1.3 Volný monoid a regulární jazyky Abecedou budeme rozumět neprázdnou konečnou množinu, pokud nebude uvedeno jinak. Prvky abecedy budeme nazývat písmena. Je-li A abeceda, symbolem A značíme množinu všech konečných posloupností písmen z A. Prvky množiny A nazýváme slova nad abecedou A. Prázdnou posloupnost písmen nazýváme prázdné slovo a budeme jej značit symbolem ε. Zřetězení slov a 1...a n a b 1...b m, kde a 1,...,a n,b 1,...,b m A, je slovo a 1...a n b 1...b m. Množina A spolu s operací zřetězení tvoří monoid. Jelikož má monoid A univerzální vlastnost popsanou v následující větě, je to volný monoid nad abecedou A. Věta 1.7. Necht A je abeceda, M je monoid a f : A M je libovolné zobrazení. Pak existuje jediný homomorfismus monoidů α : A M splňující α A = f. Tato vlastnost monoidu A se využívá v důkazu následující věty. Věta 1.8. Necht A je abeceda, M, N jsou libovolné monoidy, α : A M je homomorfismus a β : N M je surjektivní homomorfismus. Pak existuje homomorfismus ψ : A N takový, že platí α = β ψ. A α M ψ N β

Kapitola 1. Algebraický základ 5 Slovo v je podslovem slova u, existují-li slova x,y splňující u = xvy. Slovo v je prefixem, resp. sufixem slova u, existuje-li slovo w splňující u = vw, resp. u = wv. Řekneme, že slovo v se vyskytuje ve slově u, pokud je v podslovem slova u. Obsah slova u značíme symbolem C(u) a rozumíme jím množinu všech písmen vyskytujících se ve slově u. Délka slova u je číslo n N 0 takové, že platí u = a 1...a n, kde a 1,...,a n A. Délku slova u budeme značit u. Je-li u = a 1...a n slovo nad abecedou A, kde a 1,...,a n A, pak pro každé i {1,...,n} označíme u[i] = a i. Jazyk nad abecedou A je podmnožina množiny A. Necht A je abeceda a K,L jsou jazyky nad abecedou A. Zřetězení jazyků K,L je jazyk K L = {xy A x K,y L}. Pro i N 0 definujeme i-tou mocninu jazyka L induktivně předpisem: L 0 = {ε}, L i+1 = L L i. Iterace jazyka L je jazyk L = i=0 L i. Levý, resp. pravý kvocient jazyka L podle písmene a A je jazyk a 1 L = {u A au L}, resp. La 1 = {u A ua L}. Necht K,L,L 1,L A jsou jazyky a a A je písmeno. Snadno lze dokázat platnost následujících vztahů: K (L 1 L ) = (K L 1 ) (K L ), (L 1 L ) K = (L 1 K) (L K), a 1 (L 1 L ) = a 1 L 1 a 1 L, (L 1 L )a 1 = L 1 a 1 L a 1, a 1 (L 1 L ) = a 1 L 1 a 1 L, (L 1 L )a 1 = L 1 a 1 L a 1, a 1 L C = (a 1 L) C. Jazyk nad abecedou A se nazývá regulární, jestliže jej lze vytvořit pomocí konečného počtu aplikací operací sjednocení, zřetězení a iterace na jazyky tvaru /0 nebo {a}, kde a A je libovolné písmeno. Lze ukázat, že regulární jazyky jsou uzavřené na doplněk. V této práci se budeme zabývat star-free jazyky, které tvoří podtřídu třídy všech regulárních jazyků. Definice 1.9. Jazyk nad abecedou A nazveme star-free, pokud jej lze vytvořit konečným počtem aplikací operací sjednocení, zřetězení a doplňku na jazyky tvaru /0 nebo {a}, kde a A je libovolné písmeno. Necht A je abeceda a L je jazyk nad abecedou A. Binární relace L na A definovaná předpisem u L v ( x,y A ) (xuy L = xvy L) je stabilní předuspořádání a nazývá se syntaktické předuspořádání jazyka L. Ekvivalence L indukovaná předuspořádáním L, tj. splňující podmínku u L v ( x,y A ) (xuy L xvy L), je potom kongruence a nazývá se syntaktická kongruence jazyka L. Věta 1.10. Necht A je abeceda, L je jazyk nad abecedou A a je libovolné stabilní předuspořádání na A. Platí L právě tehdy, když předuspořádání splňuje následující podmínku: u,v A : ( (u v u L) = v L ).

Kapitola 1. Algebraický základ 6 Věta 1.11. Necht A je abeceda, L je jazyk nad abecedou A a je libovolná kongruence na A. Platí L právě tehdy, když kongruence splňuje následující podmínku: u,v A : ( (u v u L) = v L ). Syntaktický monoid jazyka L je monoid A / L. Uspořádaný syntaktický monoid jazyka L je uspořádaný monoid A / L. Syntaktický homomorfismus jazyka L je projekce ϕ L : A A / L na syntaktický monoid. Věta 1.1. Necht A je abeceda a L je jazyk nad abecedou A. Jazyk L je regulární právě tehdy, když syntaktický monoid A / L je konečný. Je znám algoritmus, který pro daný regulární jazyk L spočítá jeho (uspořádaný) syntaktický monoid. 1.4 Konečné monoidy a faktorizační lesy Necht M je monoid. Prvek e M se nazývá idempotentní, jestliže platí ee = e. Množinu všech idempotentních prvků monoidu M označíme E(M). Pokud je monoid M konečný, pak pro každý prvek s M platí, že množina {s n n N} obsahuje právě jeden idempotentní prvek. Tento idempotentní prvek označujeme symbolem s ω. Dále označíme s ω+1 = s ω s. Definice 1.13. Konečný monoid M nazveme aperiodický, pokud pro všechny prvky s M platí s ω+1 = s ω. Následující hluboký výsledek dokázal M. P. Schützenberger roku 1965 v [3]. Věta 1.14. Regulární jazyk je star-free právě tehdy, když je jeho syntaktický monoid aperiodický. Z důvodu zjednodušení zápisu použijeme v následující definici označení (A + ) n mimořádně pro množinu A } + {{ A + } všech uspořádaných n-tic prvků z A +. Symbolem (A + ) n n tedy nebudeme myslet n-tou iteraci jazyka A + zavedenou v předchozí podkapitole. Definice 1.15. Necht M je konečný monoid, α : A M homomorfismus. Faktorizační les pro α je zobrazení d : m= A m n= (A + ) n splňující pro každé slovo u m= A m následující podmínky: Pokud platí d(u) = (u 1,...,u n ), pak platí u 1...u n = u. Pokud platí d(u) = (u 1,...,u n ) pro n >, pak navíc existuje prvek e E(M) takový, že platí α(u 1 ) = = α(u n ) = e. Induktivně definujeme výšku h d (u) slova u A ve faktorizačním lese d: Pokud platí u 1, pak položíme h d (u) = 0.

Kapitola 1. Algebraický základ 7 Pokud platí u > 1 a d(u) = (u 1,...,u n ), pak položíme h d (u) = max{h d (u 1 ),...,h d (u n )} + 1. Výška faktorizačního lesa d je supremum množiny {h d (u) u A }. Faktorizační lesy zavedl roku 1990 I. Simon v [4]. Zároveň dokázal, že pro každý homomorfismus α : A M existuje faktorizační les výšky nejvýše 9 M. Následující větu dokázal roku 007 M. Kufleitner v [11]. Věta 1.16. Necht M je konečný monoid, α : A M homomorfismus. Pak existuje faktorizační les pro α výšky nejvýše 3 M. 1.5 Pseudovariety a pseudoidentity Definice 1.17. Pseudovarieta monoidů je neprázdná třída V konečných monoidů splňující následující podmínky: 1. Pro každý surjektivní homomorfismus monoidů α : M N platí M V = N V.. Je-li N podmonoidem monoidu M V, pak platí N V. 3. Patří-li monoidy M,N do V, pak také monoid M N patří do V. Definice 1.18. Pseudovarieta uspořádaných monoidů je neprázdná třída V konečných uspořádaných monoidů splňující následující podmínky: 1. Pro každý surjektivní homomorfismus uspořádaných monoidů α : M N platí M V = N V.. Je-li N podmonoidem uspořádaného monoidu M V, pak platí N V. 3. Patří-li uspořádané monoidy M,N do V, pak také uspořádaný monoid M N patří do V. Necht M je neprázdná třída konečných (uspořádaných) monoidů. Označíme H(M ) třídu všech homomorfních obrazů (uspořádaných) monoidů z M, S(M ) třídu všech podmonoidů (uspořádaných) monoidů z M a P f in (M ) třídu všech konečných součinů (uspořádaných) monoidů z M. Symbolem M označíme nejmenší pseudovarietu (uspořádaných) monoidů obsahující M. Věta 1.19. Necht M je neprázdná třída konečných (uspořádaných) monoidů. Pak platí M = HSP f in (M ).

Kapitola 1. Algebraický základ 8 Definice 1.0. Necht A je abeceda. Identita nad A i nerovnost nad A je uspořádaná dvojice slov (u,v) A A. Identitu, resp. nerovnost (u,v) zapisujeme obvykle ve tvaru u = v, resp. u v. Necht M je konečný monoid, resp. konečný uspořádaný monoid. Řekneme, že (uspořádaný) monoid M splňuje identitu u = v, resp. nerovnost u v a zapisujeme M = u = v, resp. M = u v, jestliže pro každý homomorfismus α : A M platí α(u) = α(v), resp. α(u) α(v). Necht V je pseudovarieta (uspořádaných) monoidů. Řekneme, že identita u = v, resp. nerovnost u v je splněná v pseudovarietě V a zapisujeme V = u = v, resp. V = u v, jestliže každý monoid z pseudovariety V splňuje identitu u = v, resp. nerovnost u v. Necht A je abeceda a V je pseudovarieta monoidů. Na monoidu A definujeme relaci A V následovně: u A V v V = u = v. Relace A V je zřejmě kongruence. Podobně pro pseudovarietu uspořádaných monoidů V definujeme na A relaci A V následovně: u A V v V = u v. Relace A V je zřejmě stabilní předuspořádání. Věta 1.1. Necht A,B jsou abecedy, α : A B je homomorfismus a V je pseudovarieta uspořádaných monoidů. Pak pro všechna slova u,v A platí: u A V v = α(u) B V α(v). Poznámka. Platí také analogická věta pro případ, kdy V je pseudovarieta monoidů, tu však nebudeme v dalším textu potřebovat. Věta 1.. Necht A je abeceda a V je pseudovarieta (uspořádaných) monoidů. Platí A / A V V, resp. A / A V V právě tehdy, když je monoid A / A V, resp. A / A V konečný. Důsledek 1.3. Necht V je pseudovarieta (uspořádaných) monoidů taková, že pro každou abecedu A je monoid A / A V, resp. A / A V konečný. Necht M je konečný (uspořádaný) monoid. Pak monoid M patří do pseudovariety V právě tehdy, když existuje abeceda A taková, že M je homomorfním obrazem monoidu A / A V, resp. uspořádaného monoidu A / A V. Na monoidu A definujeme metriku pomocí nejmenší velikosti monoidu, kterým je možné rozlišit danou dvojici slov pomocí homomorfismu. Nejprve definujeme zobrazení r : A A N { } předpisem r(u,v) = min{ M M konečný monoid, M = u = v}, kde min /0 :=. Nyní definujeme zobrazení d : A A R + 0 předpisem d(u,v) = r(u,v), kde := 0. Snadno lze ukázat, že takto definované zobrazení d je metrikou na A. Označme  zúplnění metrického prostoru (A,d).

Kapitola 1. Algebraický základ 9 Věta 1.4. Metrický prostor  je kompaktní. Snadno lze ukázat, že operace zřetězení : (A,d) (A,d) (A,d) je stejnoměrně spojité zobrazení. Lemma 1.5. Necht X,Y jsou metrické prostory a X,Ŷ jsou zúplnění těchto prostorů. Necht f : X Y je stejnoměrně spojité zobrazení. Potom existuje jediné spojité zobrazení f : X Ŷ splňující f X = f. Protože zúplněním metrického prostoru (A,d) (A,d) je právě metrický prostor  Â, z předchozího lemmatu vyplývá, že existuje jediné spojité rozšíření operace na prostor Â. Tuto operaci na  budeme také označovat symbolem a často tento symbol budeme v zápisech vynechávat. Z asociativity operace zřetězení na A, z hustoty prostoru A v prostoru  a ze spojitosti operace na  vyplývá, že operace na  je asociativní. Podobně je možné dokázat, že prázdné slovo je neutrálním prvkem vzhledem k této operaci. Celkem dostáváme, že (Â,,ε) je monoid. Abychom mohli mluvit o spojitých zobrazeních ϕ :  M do konečného monoidu M, budeme každý konečný monoid M chápat jako metrický monoid (M,d ), kde d je diskrétní metrika, tj. pro všechna s,t M, s t, platí d (s,t) = 1. Prvky monoidu  se nazývají pseudoslova. Zřejmě každé slovo u A je pseudoslovem. Představíme si ještě jeden další důležitý typ pseudoslov. Lemma 1.6. Necht u  je libovolné pseudoslovo. Posloupnost pseudoslov {u n! } n=1 je konvergentní a její limita je idempotentní prvek monoidu Â. Limitu posloupnosti {u n! } n=1 značíme uω. Necht M je konečný monoid. Pak pro každý spojitý homomorfismus ϕ :  M a pro každé pseudoslovo u  platí ϕ(u ω ) = = ( ϕ(u) ) ω. Věta 1.7. Necht A je abeceda, M je konečný monoid a α : A M je homomorfismus. Pak existuje jediný spojitý homomorfismus α :  M splňující α A = α. A α M  α Definice 1.8. Necht A je abeceda. Pseudoidentita nad A i pseudonerovnost nad A je dvojice pseudoslov (u,v)  Â. Pseudoidentitu, resp. pseudonerovnost (u,v) zapisujeme obvykle ve tvaru u = v, resp. u v. Necht M je konečný monoid, resp. konečný uspořádaný monoid. Řekneme, že (uspořádaný) monoid M splňuje pseudoidentitu u = v, resp. pseudonerovnost u v a zapisujeme

Kapitola 1. Algebraický základ 10 M = u = v, resp. M = u v, jestliže pro každý spojitý homomorfismus ϕ : Â M platí ϕ(u) = ϕ(v), resp. ϕ(u) ϕ(v). Necht V je pseudovarieta (uspořádaných) monoidů. Řekneme, že pseudoidentita u = v, resp. pseudonerovnost u v je splněná v pseudovarietě V a zapisujeme V = u = v, resp. V = u v, jestliže každý monoid z pseudovariety V splňuje pseudoidentitu u = v, resp. pseudonerovnost u v. Poznámka. Každý homomorfismus ϕ : Â M určuje homomorfismus ϕ A : A M a naopak podle Věty 1.7 ke každému homomorfismu α : A M existuje jeho spojité rozšíření α : Â M. Proto pro všechna slova u,v A platí, že monoid M splňuje pseudoidentitu u = v, resp. pseudonerovnost u v právě tehdy, když pro každý homomorfismus α : A M platí α(u) = α(v), resp. α(u) α(v). Tato podmínka přesně odpovídá splňování identit, resp. nerovností zavedenému dříve v Definici 1.0. Označení. Necht X je množina pseudoidentit, resp. pseudonerovností. Třídu všech konečných (uspořádaných) monoidů splňujících všechny pseudoidentity, resp. pseudonerovnosti z X označíme X. Následující větu dokázal roku 198 J. Reiterman v []. Věta 1.9. Necht V je neprázdná třída konečných monoidů. Pak V je pseudovarieta monoidů právě tehdy, když existuje množina pseudoidentit X taková, že platí V = X. Pro pseudovariety uspořádaných monoidů platí podobná věta, kterou dokázali roku 1996 J.-É. Pin a P. Weil v [18]. Věta 1.30. Necht V je neprázdná třída konečných uspořádaných monoidů. Pak V je pseudovarieta uspořádaných monoidů právě tehdy, když existuje množina pseudonerovností X taková, že platí V = X. 1.6 Variety regulárních jazyků Definice 1.31. Třída regulárních jazyků je zobrazení V, které každé abecedě A přiřadí množinu regulárních jazyků V (A) nad abecedou A. Definice 1.3. Varieta regulárních jazyků je třída regulárních jazyků V splňující následující podmínky: 1. Pro každou abecedu A je množina V (A) uzavřená na booleovské operace, tj. na konečné sjednocení, konečný průnik a doplněk.. Pro každou abecedu A a každé písmeno a A platí: L V (A) = ( a 1 L V (A) La 1 V (A) ). 3. Pro každé dvě abecedy A a B a každý homomorfismus α : A B platí: L V (B) = α 1 (L) V (A).

Kapitola 1. Algebraický základ 11 Definice 1.33. Pozitivní varieta regulárních jazyků je třída regulárních jazyků V splňující následující podmínky: 1. Pro každou abecedu A je množina V (A) uzavřená na konečné sjednocení a konečný průnik.. Pro každou abecedu A a každé písmeno a A platí: L V (A) = ( a 1 L V (A) La 1 V (A) ). 3. Pro každé dvě abecedy A a B a každý homomorfismus α : A B platí: L V (B) = α 1 (L) V (A). Na třídě všech (pozitivních) variet definujeme uspořádání následujícím způsobem: V 1 V V 1 (A) V (A) pro každou abecedu A. Pak třída všech (pozitivních) variet spolu s uspořádaním zřejmě tvoří svaz. Podobně třída všech pseudovariet (uspořádaných) monoidů spolu s uspořádáním tvoří svaz. Definujeme zobrazení mezi těmito svazy. Zobrazení λ každé pseudovarietě monoidů V přiřadí třídu regulárních jazyků λ(v ), kde pro každou abecedu A je λ(v )(A) = {L A A / L V}. Zobrazení λ každé pseudovarietě uspořádaných monoidů V přiřadí třídu regulárních jazyků λ (V ), kde pro každou abecedu A je λ (V )(A) = {L A A / L V}. Necht K,L A jsou regulární jazyky, a A je libovolné písmeno, B je libovolná abeceda a α : B A je homomorfismus. (Uspořádané) syntaktické monoidy jazyků L K, L K, a 1 L, La 1 a α 1 (L) a syntaktický monoid jazyka L C lze sestrojit z (uspořádaných) syntaktických monoidů jazyků K, L pomocí homomorfních obrazů, podmonoidů a konečných součinů. Proto pro každou pseudovarietu (uspořádaných) monoidů V je třída regulárních jazyků λ(v ), resp. λ (V ) varieta, resp. pozitivní varieta regulárních jazyků. Zobrazení µ každé varietě regulárních jazyků V přiřadí pseudovarietu monoidů µ(v ) = A / L A abeceda, L V (A). Zobrazení µ každé pozitivní varietě regulárních jazyků V přiřadí pseudovarietu uspořádaných monoidů µ (V ) = A / L A abeceda, L V (A). Následující větu dokázal roku 1974 S. Eilenberg v [8]. Věta 1.34. Zobrazení λ a µ jsou navzájem inverzní izomorfismy mezi svazem všech pseudovariet monoidů a svazem všech variet regulárních jazyků. Pozitivní variety jazyků zavedl J.-É. Pin v roce 1995 v [15]. V tomto článku také zformuloval a dokázal následující větu.

Kapitola 1. Algebraický základ 1 Věta 1.35. Zobrazení λ a µ jsou navzájem inverzní izomorfismy mezi svazem všech pseudovariet uspořádaných monoidů a svazem všech pozitivních variet regulárních jazyků. Z předchozích dvou vět mimo jiné vyplývá, že dvě pseudovariety (uspořádaných) monoidů jsou stejné právě tehdy, když obsahují stejné (uspořádané) syntaktické monoidy. Tento fakt budeme v práci často využívat. Pro tvrzení předchozích dvou vět se užívá název Eilenbergova korespondence.

Kapitola Straubingova Thérienova hierarchie algebraicky V této kapitole si představíme Straubingovu Thérienovu hierarchii, hlavní pojem této práce, a ukážeme si její základní vlastnosti. Pak si předvedeme souhrn známých výsledků o jednotlivých stupních této hierarchie. Tato kapitola obsahuje řadu obtížných výsledků, které si uvedeme bez důkazu. U jednotlivých vět jsou stejně jako v předchozí kapitole uvedeny odkazy na články, ve kterých byly tyto věty původně dokázány..1 Polynomiální a booleovský uzávěr Definice.1. Necht A je abeceda a L je množina jazyků nad abecedou A. Polynomiální uzávěr množiny L je množina všech konečných sjednocení jazyků tvaru L 0 a 1 L 1...a n L n, kde n N 0 a pro každé i {0,...,n} platí L i L a pro každé i {1,...,n} platí a i A. Necht V je třída regulárních jazyků. Pak Pol V je třída regulárních jazyků taková, že pro každou abecedu A je PolV (A) polynomiální uzávěr množiny V (A). Poznámka. Necht A je abeceda, L 1,...,L n,k 1,...,K m jsou libovolné jazyky nad A a a A je libovolné písmeno. Ze vztahu ( n ) ( m ) n m L i a K j = L i ak j (.1) i=1 j=1 i=1 j=1 plyne, že pro každou třídu regulárních jazyků V platí PolPolV = PolV. Následující větu dokázal M. Arfi roku 1987, dříve než byla pozitivní varieta jazyků vůbec definována, v [4], kde je ovšem chybné místo v důkaze, jak je upozorněno v [3]. Roku 1997 tuto větu jinými prostředky dokázali J.-É. Pin a P. Weil v [19]. Věta.. Je-li V varieta regulárních jazyků, pak Pol V je pozitivní varieta regulárních jazyků. Definice.3. Necht A je abeceda a L je množina jazyků nad abecedou A. Booleovský uzávěr množiny L je množina všech konečných booleovských kombinací jazyků z L. Necht V je třída regulárních jazyků. Pak B V je třída regulárních jazyků taková, že pro každou abecedu A je BV (A) booleovský uzávěr množiny V (A). 13

Kapitola. Straubingova Thérienova hierarchie algebraicky 14 Poznámka. Pro každou třídu regulárních jazyků V zřejmě platí BBV = BV. Věta.4. Je-li V pozitivní varieta regulárních jazyků, pak B V je varieta regulárních jazyků. Důkaz. Necht A je libovolná abeceda. Podle definice BV je množina BV (A) uzavřená na booleovské operace. Necht L BV (A) je libovolný jazyk. Pak L lze zapsat ve tvaru L = n i=1 ( m i j=1 L i j m i j =1 L C i j ), kde pro všechna i, j, j jsou L i j,l i j jazyky z množiny V (A). Pro každé písmeno a A platí a 1 L = n i=1 ( m i j=1 a 1 L i j m i j =1 (a 1 L i j ) C). Protože pro všechna i, j, j platí a 1 L i j V (A) a a 1 L i j V (A), z předchozího vztahu plyne a 1 L BV (A). Podmínka La 1 BV (A) se dokáže analogicky. Necht B je libovolná abeceda a α : B A je homomorfismus. Pak pro jazyk L platí α 1 (L) = n i=1 ( m i j=1 α 1 (L i j ) m i j =1 ( α 1 (L i j ) ) C ). Protože pro všechna i, j, j platí α 1 (L i j ) V (A) a α 1 (L i j ) V (A), z předchozího vztahu plyne α 1 (L) BV (A). Dokázali jsme, že třída regulárních jazyků BV splňuje podmínky 1 3 z Definice 1.3, je to tedy varieta regulárních jazyků.. Definice hierarchie a její základní vlastnosti Symbolem N 0 označíme množinu {0, 1,1, 3,,...}. Definice.5. Straubingova Thérienova hierarchie je nekonečná posloupnost tříd regulárních jazyků {W n } n N 0 definovaná takto: Pro každou abecedu A platí W 0 (A) = {/0,A }. Pro každé n N 0 platí W n+ 1 = PolW n. Pro každé n N 0 platí W n+1 = BW n+ 1. Necht n N 0 je libovolné číslo, A je abeceda a L jazyk nad abecedou A. Řekneme, že jazyk L patří do úrovně (do stupně) n Straubingovy Thérienovy hierarchie, pokud platí L W n (A).

Kapitola. Straubingova Thérienova hierarchie algebraicky 15 V dalším textu budeme místo názvu Straubingova Thérienova hierarchie používat kratší název ST-hierarchie. Poznámka. Pro každou abecedu A zřejmě platí W 0 (A) W 1 (A) W 1 (A) W 3 (A) W (A)... Množina W 0 (A) je zřejmě uzavřená na booleovské operace, levé i pravé kvocienty a pro každý homomorfismus α : B A platí α 1 (A ) = B, α 1 (/0) = /0. Třída regulárních jazyků W 0 je proto varieta regulárních jazyků. Z Vět. a.4 pak plyne, že pro každé n N 0 je W n, resp. W n+ 1 varieta, resp. pozitivní varieta regulárních jazyků. Pro každé číslo n N 0 označíme W n pseudovarietu (uspořádaných) monoidů odpovídající v Eilenbergově korespondenci (pozitivní) varietě regulárních jazyků W n. Dostáváme nekonečnou posloupnost pseudovariet W 0 W 1 W 1 W 3 W... Věta.6. Necht A je libovolná abeceda. Množina n N 0 W n (A) je právě množina všech star-free jazyků nad abecedou A. Důkaz. Jazyky /0 a A = /0 C jsou star-free jazyky nad A. Dále pro každou množinu star- -free jazyků nad A zřejmě platí, že jejím polynomiálním i booleovským uzávěrem je opět množina star-free jazyků nad A. Proto pro každé n N 0 je W n(a) množina star-free jazyků nad A. Naopak každý star-free jazyk nad abecedou A lze vytvořit konečným počtem střídaní aplikací operace zřetězení a booleovských operací na jazyky tvaru /0 a {a}, kde a A. Jazyk /0 patří do množiny W 0 (A). Jazyk {a} lze zapsat ve tvaru {a} = A aa (A aa aa ) C (A ba ) C, (.) b A b a proto patří do množiny W 1 (A). Dále pro každou dvojici jazyků K,L A platí K L = { a A K {a} a 1 L pokud ε L K a A K {a} a 1 L pokud ε L. (.3) Proto pro každé n N platí K,L W n (A) = K L W n+ 1 (A). Celkem dostáváme, že libovolný jazyk L vzniklý konečným počtem střídaní aplikací operace zřetězení a booleovských operací na jazyky tvaru /0 a {a}, kde a A, patří do množiny n N 0 W n (A). Pro důkaz následující věty budeme potřebovat zavedení některých operací na množině N 0 { }. Pro každé n N 0 { } definujeme min{n, } := n, max{n, } :=, n + :=, + n :=.

Kapitola. Straubingova Thérienova hierarchie algebraicky 16 V souladu s touto definicí přirozeně rozšíříme standardní uspořádání N0 na množině nezáporných celých čísel na množinu N 0 { }: N0 { } := N0 {(n, ) n N 0 { }}. Věta.7. Necht A je jednoprvková abeceda. Pak platí n N 0 W n (A) = W 1 (A). Důkaz. Necht A = {a}. Stačí dokázat, že pro každou dvojici jazyků K,L W 1 (A) platí KaL W 1 (A). Z definice množiny W 1 (A) vyplývá, že W 1 (A) obsahuje právě ty jazyky, jež lze zapsat ve tvaru L = kde pro všechna i, j, j jsou L i j,l i j n i=1 ( m i j=1 L i j m i j =1 L C i j ), jazyky z množiny W 1 (A). Přitom množina W 1 (A) obsahuje právě jazyky tvaru {a k p k < } pro nějaké p N 0 a prázdný jazyk. Necht p,q, p 1, p,q 1,q N 0 { } jsou libovolná. Pak platí a {a k p k < q} C = {a k 0 k < p} {a k q k < } { a k p 1 k < q 1 } { a k p k < q } = { a k max{p 1, p } k < min{q 1,q } }. Proto množina W 1 (A) je tvořena právě konečnými sjednoceními jazyků tvaru {a k p k < q} pro nějaká čísla p,q N 0 { }. Pak ze vztahu {a k p 1 k < q 1 } a { a k p + 1 k < q } = {a k p 1 + p k < q 1 + q } a z (.1) plyne, že pro každou dvojici jazyků K,L W 1 (A) platí KaL W 1 (A). Pro abecedu A obsahující více než jedno písmeno je však již situace odlišná. J. A. Brzozowski a R. Knast v roce 1978 v [7] dokázali striktnost tzv. dot-depth hierarchie, která je, jak se ukázalo později, úzce spjata s ST-hierarchií. Následující věta je přímým důsledkem výsledku z [7]. Věta.8. Necht A je abeceda splňující A > 1. Pak pro každé n N 0 platí vztah W n (A) W n+1 (A). Ukažme si, že pro víceprvkovou abecedu se také všechny poloviční stupně hierarchie liší od celých stupňů. Důsledek.9. Necht A je abeceda splňující A > 1. Pak pro každé n N 0 platí W n (A) W n+ 1 (A) W n+1 (A).

Kapitola. Straubingova Thérienova hierarchie algebraicky 17 Důkaz. Obě inkluze dokážeme sporem. Nejprve předpokládejme, že platí W n (A) = W n+ 1 (A). Pak platí W n (A) = BW n (A) = BW n+ 1 (A) = W n+1 (A), což je ve sporu s Větou.8. Necht platí W n+ 1 (A) = W n+1 (A). Pak platí W n+1 (A) = BPolW n+ 1 (A) = BPolW n+1 (A) = W n+ (A), což je opět ve sporu s Větou.8. Historická poznámka. První zmínky o ST-hierarchii jsou v článcích D. Thériena [30] (1981) a H. Straubinga [7] (1985). Přitom původní hierarchie se skládala pouze z celých stupňů. Poloviční stupně poprvé uvažovali D. Perrin a J.-É. Pin v článku [14] (1986). Více se jimi zabýval a do ST-hierarchie je zařadil M. Arfi v [4] (1987). V rozšířené verzi tohoto článku [5] (1991) je možno nalézt také důkaz předchozího důsledku. Hlavní problém týkající se ST-hierarchie je pro dané číslo n N 0 nalézt takovou charakterizaci W n, která umožní algoritmicky rozhodovat, zda jazyk L A patří do množiny W n (A). V současné době jsou známy takové charakterizace pro stupně 0, 1,1, 3,, 5, 7. Řekneme, že pseudovarieta (uspořádaných) monoidů je rozhodnutelná nebo že má efektivní charakterizaci, jestliže lze algoritmicky rozhodovat, zda konečný (uspořádaný) monoid patří do této pseudovariety. Řekneme, že (pozitivní) varieta regulárních jazyků V je rozhodnutelná nebo že má efektivní charakterizaci, jestliže lze algoritmicky rozhodovat, zda regulární jazyk nad abecedou A patří do množiny V (A). Díky Eilenbergově korespondenci a díky možnosti algoritmického výpočtu (uspořádaného) syntaktického monoidu stačí pro rozhodnutelnost (pozitivní) variety W n znát efektivní charakterizaci odpovídající pseudovariety W n. Řekneme, že stupeň n N 0 ST-hierarchie je rozhodnutelný nebo že má efektivní charakterizaci, jestliže je rozhodnutelná příslušná (pozitivní) varieta W n. V dalších podkapitolách si představíme známé charakterizace jednotlivých stupňů ST- -hierarchie.

Kapitola. Straubingova Thérienova hierarchie algebraicky 18.3 Stupně 0 a 1 Monoid M nazveme triviální, pokud platí M = {1}. Věta.10. Jazyk patří do úrovně 0 ST-hierarchie právě tehdy, když je jeho syntaktický monoid triviální. Důkaz. Necht A je abeceda. Z definice syntaktické kongruence plyne L = A A ( u,v A ) (u L v L), což platí právě tehdy, když L = A nebo L = /0. Podmínku, zda je syntaktický monoid jazyka triviální, lze jednoduše ověřit. Máme tedy efektivní charakterizaci stupně 0 ST-hierarchie. Z Věty.10 vyplývá také charakterizace pseudovariety W 0 pomocí identity: W 0 = a = ε, kde a A je libovolné písmeno v pevně zvolené abecedě A. Následující charakterizaci stupně 1 dokázal poprvé M. Arfi v [5]. Podrobně zpracovaný důkaz lze nalézt v diplomové práci [9] (Věta 3.3). Věta.11. Regulární jazyk patří do úrovně 1 ST-hierarchie právě tehdy, když pro jeho uspořádaný syntaktický monoid platí, že neutrální prvek je nejmenším prvkem vzhledem k uspořádání. Podmínku, zda je v daném uspořádaném monoidu neutrální prvek nejmenší, lze jednoduše testovat. Máme tedy efektivní charakterizaci stupně 1 ST-hierarchie. Analogicky jako výše dostáváme charakterizaci odpovídající pseudovariety W 1 pomocí nerovnosti: W 1 = ε a, kde a A je libovolné písmeno v pevně zvolené abecedě A..4 Stupeň 1 Necht A je abeceda. Podle definice ST-hierarchie se množina W 1 (A) skládá právě z konečných booeleovských kombinací jazyků tvaru A a 1 A...a n A, kde n N 0, a 1,...,a n A. Jazyky stupně 1 ST-hierarchie se nazývají po částech testovatelné. Necht M je monoid. Definujeme na M relaci J následujícím předpisem: s J t l,r M : s = ltr. Relace J je zřejmě předuspořádání. Relace ekvivalence indukovaná tímto předuspořádáním se označuje J. Je to jedna z tzv. Greenových relací.

Kapitola. Straubingova Thérienova hierarchie algebraicky 19 Řekneme, že monoid M je J -triviální, jestliže pro všechna s,t M platí sj t = s = t. Podmínku, zda je monoid J -triviální, lze jednoduše testovat. Následující větu dokázal I. Simon v článku [5] (1975). Věta.1. Regulární jazyk je po částech testovatelný právě tehdy, když je jeho syntaktický monoid J -triviální. Důkaz této věty je již poměrně obtížný. Jelikož byl stupeň 1 až do roku 014 nejvyšším celým stupněm v ST-hierarchii se známou efektivní charakterizací, byla mu věnována značná pozornost vedoucí ke vzniku několika dalších důkazů Simonovy věty. Dva různé důkazy jsou podrobně zpracovány v bakalářské práci [6]. Pseudovarietu monoidů W 1 lze popsat pomocí pseudoidentit takto: W 1 = a(ba) ω = (ab) ω = (ab) ω a, kde a,b A,a b jsou libovolná písmena z pevně zvolené abecedy A..5 Stupeň 3 Označme F třídu regulárních jazyků definovanou předpisem pro každou abecedu A. Následující větu dokázal M. Arfi v [5] (1991). Věta.13. Platí PolW 1 = PolF. F (A) = {B B A} (.4) Necht V je libovolná třída regulárních jazyků. Označme V třídu regulárních jazyků takovou, že pro každou abecedu A je V (A) nejmenší množina obsahující V (A) uzavřená na operace sjednocení a zřetězení. Dále označme G třídu regulárních jazyků takovou, že pro každou abecedu A platí Důsledek.14. Platí W 3 = G. G (A) = F (A) { {a} a A }. Důkaz. Necht A je libovolná abeceda. Dokážeme, že platí W 3 (A) = G (A). : Podle Věty.13 platí vztah W 3 (A) = PolW 1 (A) = PolF (A). Přitom každý jazyk z Pol F (A) lze vytvořit konečným počtem aplikací operací zřetězení a sjednocení na jazyky z množiny G (A). Proto platí W 3 (A) = PolF (A) G (A). : Stačí dokázat, že platí W 3 (A) G (A) a že množina W 3 (A) je uzavřená na sjednocení a zřetězení.

Kapitola. Straubingova Thérienova hierarchie algebraicky 0 Z Věty.13 plyne, že množina W 3 (A) obsahuje množinu F (A). Ze vztahu (.) plyne, že pro každé písmeno a A platí {a} W 1 (A). Proto W 3 (A) obsahuje i množinu { {a} a A }. Množina W 3 (A) je uzavřená na sjednocení podle definice a její uzavřenost na zřetězení plyne ze vztahu (.3) a ze skutečnosti, že polynomiální uzávěr množiny W 3 (A) je W 3 (A). M. Arfi v [5] dokázal rozhodnutelnost úrovně 3 ST-hierarchie za použití následujícího výsledku. Věta.15 (Hashiguchi, [9], 1983). Necht V je třída regulárních jazyků taková, že pro každou abecedu A je V (A) konečná množina. Pak je možné algoritmicky rozhodovat, zda regulární jazyk patří do množiny V (A) pro danou abecedu A. Jelikož pro každou abecedu A je G (A) konečná množina, z Důsledku.14 a z Věty.15 vyplývá, že je možné algoritmicky rozhodovat, zda regulární jazyk patří do úrovně 3 ST- -hierarchie. J.-É. Pin a P. Weil v článku [19] (1997) dokázali následující charakterizaci pseudovariety W 3. Věta.16. Platí W 3 = u ω u ω vu ω u,v A pro nějakou abecedu A,C(u) = C(v). Pomocí této věty také našli algoritmus (menší časové složitosti než algoritmus vyplývající z výsledků Hashiguchiho a Arfiho) rozhodující příslušnost jazyka do úrovně 3 ST-hierarchie..6 Další stupně Rozhodnutelnost stupňů a 5 ST-hierarchie dokázali T. Place a M. Zeitoun v roce 014 v článku [1]. Přiblížení těchto výsledků jsou věnovány zbývající kapitoly práce. Použitím podobných technik jako v [1] dokázal T. Place v roce 015 v článku [0] rozhodnutelnost stupně 7 ST-hierarchie. Zde si uvedeme stav znalostí před rokem 014 o stupních ST- -hierarchie vyšších než 3..6.1 Stupeň Roku 1981 H. Straubing a P. Weil v článku [17] dokázali, že pro každou abecedu A platí W (A) = BPolF (A), kde množina F (A) je definována vztahem (.4). Tento popis stupně ovšem nevedl k efektivní charakterizaci. Roku 1986 zformuloval H. Straubing v článku [8] hypotézu, že pseudovarieta monoidů W je rovna jisté pseudovarietě CJ, která je rozhodnutelná, a dokázal platnost inkluze

Kapitola. Straubingova Thérienova hierarchie algebraicky 1 W CJ. V dalších letech se ukázalo, že pseudovariety W a CJ se shodují na některých typech monoidů. Roku 1997 uvedli J.-É. Pin a P. Weil v článku [19] charakterizaci pseudovariety CJ pomocí pseudoidentit: CJ = (u ω w 1 v ω w u ω ) ω w 1 v ω w 4 (u ω w 3 v ω w 4 u ω ) ω = (u ω w 1 v ω w u ω ) ω (u ω w 3 v ω w 4 u ω ) ω W 1 = u = u = v = w 1 = w = w 3 = w 4. Roku 009 J. Almeida a O. Klíma v článku [] vyvrátili s využitím uvedené charakterizace CJ hypotézu W = CJ. Roku 010 pak v článku [3] uvedli pseudovarietu monoidů F = v ω = v ω uv ω W 3 = u v, dokázali o ní, že je rozhodnutelná, a dokázali vztahy W CJ F CJ a CJ F F. Byla tedy nalezena nová rozhodnutelná pseudovarieta monoidů CJ F, která by se mohla rovnat pseudovarietě W. I po objevení efektivní charakterizace W zůstává stále nevyřešenou otázkou, zda platí W = CJ F..6. Poloviční stupně pomocí pseu- Pro každé nezáporné číslo n je známa charakterizace pseudovariety W n+ 1 doidentit platných v pseudovarietě W n. Věta.17 (Pin, Weil, [19], 1997). Pro každé číslo n N 0 platí W n+ 1 = v ω v ω uv ω W n = u = v = v. Tento výsledek však obecně nezajišt uje rozhodnutelnost pseudovariety W n+ 1 za předpokladu rozhodnutelnosti pseudovariety W n. T. Place a M. Zeitoun dokázali v [1] podobný vztah mezi stupni n 1 a n + 1 ST- -hierarchie a s jeho pomocí dokázali rozhodnutelnost stupně 5.

Kapitola 3 ST-hierarchie v predikátové logice Tato kapitola obsahuje popis Straubingovy Thérienovy hierarchie pomocí predikátové logiky. Budeme se zabývat formulemi FO[<], kterými jsou popsatelné všechny star-free jazyky. Po zavedení syntaxe a sémantiky a uvedení do souvislosti s ST-hierarchií si definujeme speciální typ Ehrenfeuchtových Fraïssého her, který byl použit v článku [1] pro důkazy charakterizací polovičních stupňů a stupně ST-hierarchie. Pomocí těchto her si dokážeme tvrzení, která budeme potřebovat v dalších dvou kapitolách. Základním pramenem pro tvorbu této kapitoly byla kniha H. Straubinga [6]. Rozhodně ji ale striktně nenásleduji, byla spíše prvním zdrojem poskytujícím získání znalostí potřebných pro další práci. Využila jsem některé myšlenky z této knihy a více je rozpracovala. Toto se týká především disjunktivního normálního tvaru formulí a důkazu hlavní věty o Ehrenfeuchtových Fraïssého hrách. Souvislostí star-free jazyků s predikátovou logikou a obecným typem Ehrenfeuchtových Fraïssého her se zabývala diplomová práce [10], kterou jsem se také částečně inspirovala, zejména při vymýšlení vhodných definic v první části této kapitoly. Například definice U-slova a U-formule vznikly s využitím Straubingovy knihy i této diplomové práce. V této kapitole, pokud nebude uvedeno jinak, budeme mít zafixovánu neprázdnou konečnou abecedu A. Dále zafixujeme spočetnou množinu proměnných X. 3.1 Syntaxe a sémantika FO[<] V následujících dvou definicích povolujeme použití nekonečných abeced A a B. Definice 3.1. Atomická formule je slovo ϕ nad abecedou A = X {(,),<} {P a a A}, kde < a P a pro každé písmeno A jsou predikátové symboly, které má jeden z následujících tvarů: ϕ = (x < y) pro nějaká x,y X, ϕ = P a (x) pro nějaké x X a nějaké písmeno a A.

Kapitola 3. ST-hierarchie v predikátové logice 3 Definice 3.. Formule je slovo ϕ nad abecedou B = X {(,),<} {P a a A} {,, }, pro které existuje posloupnost slov ϕ 1,ϕ,...,ϕ n, kde ϕ n = ϕ a pro každé i {1,...,n} má slovo ϕ i jeden z následujících tvarů: ϕ i je atomická formule, ϕ i = ϕ j pro nějaké j {1,...,i 1}, ϕ i = (ϕ j ϕ k ) pro nějaká j,k {1,...,i 1}, ϕ i = xϕ j pro nějaké x X a nějaké j {1,...,i 1}. Kromě predikátových symbolů <, P a a logických symbolů, a budeme dále používat symboly =,, a, které budeme chápat jako syntaktické zkratky. Definujeme (x = y) := ( (x < y) (y < x) ), (ϕ ψ) := ( ϕ ψ), x := x. Definice 3.3. Necht ϕ a ψ jsou formule. Řekneme, že ψ je podformule formule ϕ, jestliže ϕ obsahuje ψ jako své podslovo. Definice 3.4. Necht ϕ je formule. Definujeme induktivně množiny f (ϕ), resp. b(ϕ) všech proměnných volných, resp. vázaných ve formuli ϕ. Je-li ϕ = (x < y), pak f (ϕ) := {x,y}, b(ϕ) := /0. Je-li ϕ = P a (x), pak f (ϕ) := {x}, b(ϕ) := /0. Je-li ϕ = ψ, pak f (ϕ) := f (ψ), b(ϕ) := b(ψ). Je-li ϕ = (ψ ρ), pak f (ϕ) := f (ψ) f (ρ), b(ϕ) := b(ψ) b(ρ). Je-li ϕ = xψ, pak f (ϕ) := f (ψ) \ {x}, b(ϕ) := b(ψ) {x}. Poznámka. Z předchozí definice plyne, že každá proměnná x vyskytující se ve formuli ϕ musí být vázaná nebo volná ve ϕ. Příklad 3.5. Mějme formuli Pak platí b(ϕ) = {x 1,x } a f (ϕ) = {x 1,x 3 }. ϕ = ( x 1 x P a (x 1 ) (x 1 < x 3 ) ). Definice 3.6. Formule se nazývá uzavřená, jestliže v ní žádná proměnná není volná. Definice 3.7. Necht U X je konečná množina proměnných. U-slovo je dvojice (u, θ), kde u A je slovo nad abecedou A a θ : U {1,..., u } je zobrazení přiřazující každé proměnné z U nějakou pozici ve slově u.