2002. július 1 - 3.

For the English version click here

Bevezetés

Az összejövetel eredeti célja: áttekinteni azokat az algebrai, kombinatorikai, logikai, nyelvészeti és egyéb eszközöket, amelyeket neuronhálózatok vizsgálatára szokás alkalmazni. Legkevésbé a hagyományos, diszkrét illetve folytonos idejű dinamikai rendszerekkel való leírásról lesz szó. Szervezés közben viszont már csak arra koncentráltunk, hogy olyan előadókat kérjünk fel, akiktől (még ha témájuk a fentiekhez lazán kapcsolódik is) sokat tanulhatunk, és ezt még élvezzük is.

Szervezők:
Tóth János és Szalisznyó Krisztina

Helyszín

Az összejövetel helyszíne: MTA KFKI (Csillebérc) III. Épület, tanácsterem. Hogyan lehet oda eljutni? Akinek autója van, térképe is van, szóljunk ezért a gyalogosokhoz. Van egy külön KFKI busz 8.30-kor reggel, a Moszkva térről. Ha megtalálják a 21-es buszok indulási helyét a Moszkva téren, attól lefelé egy picit található a KFKI-s buszok indulási helye. A KFKI-s buszok sargák, és jegyet sem kell venni rájuk, nem állnak meg sehol, csak a KFKI elött. A 8.30-as busz 9-re ér fel a KFKI-ba. A másik lehetõség, hogy a Moszkva téren (esetleg a Déli pályaudvarnál) a fekete (nem piros) 21-es buszra fölszállva elmegyünk annak a végállomásáig, majd ott átszállunk a 90-es buszra. Annak a végállomásánál van a KFKI telephelye. A kapuőrök szép hagyományaikhoz híven most is alaposan meg fogják vizsgálni személyi igazolványunkat, de azért be fognak engedni. Állandó, illetve a szervezők által kitett ideiglenes táblák fogják mutatni az utat a III. épület felé.

Program

Július 1., Hétfő
elnök: Szalisznyó Krisztina

Július 2., Kedd
elnök: Tóth János

Július 3., Szerda
elnökök: Zalányi László , Bazsó Fülöp

Absztraktok

Boole-függvények iterálásával fenomenológiai dinamikus modelleket alkothatunk neurális és egyéb hálózatokról és képet alkothatunk a hálózaton értelmezett dinamika tulajdonságairól. Megmutatjuk, hogy az így értelmezett dinamikai rendszerekben megkonstruálhatók a folytonos dinamikában használt fogalmak és eszközök megfelelôi. Példákon szemléltetünk néhány bevezetett fogalmat.

A nyelvprocesszor-hálózatok olyan, a hagyományostól eltérõ kiszámítási eszközök, amelyek dinamikusan változó állapotú, egymással kommunikáló ágensek közösségei viselkedésének formális nyelvi eszközökkel való leírására szolgálnak.

A nyelvprocesszor hálózat egy virtuális gráf, amelynek csúcsaiban nyelvprocesszorok (grammatikák, automaták vagy egyéb nyelvleíró eszközök), valamint szavak halmazai, illetve multihalmazai helyezkednek el. A hálózat működése során a nyelvprocesszorok egymással szinkronizált módon újraírják a rendelkezésükre álló szavakat, majd a hálózat kommunikációs protokolljának megfelelően az így nyert betűsorozatokat, illetve azok másolatait közvetítik a más csúcsokban elhelyezkedő nyelvprocesszorokhoz. A szavak átírásának és kommunikációjának mint elemi lépéseknek a sorozata egy kiszámítási sorozat. A kiszámítás eredményeként tekinthetjük pl. az egy bizonyos csúcsban a kiszámítási lépések során vagy egy bizonyos lépés során fellelhető szavak halmazát, illetve multihalmazát.

A nyelvprocesszor-hálózatok nemcsak hagyományos kiszámítási (nyelvdefiniáló) eszközök, hanem olyan kérdések tanulmányozására is alkalmas modellek, mint pl. a szavakból álló multihalmazok dinamikájának leírása. Ha a szavakat egyedekként, DNS sorozatokat, vagy egyéb biológiai tulajdonságokat meghatározó kódokként tekintjük, ezen eszközök segítségével bizonyos feltételek mellett változó és egymással kölcsönhatásban álló populációk dinamikáját is jellemezhetjük.

Az előadásban a nyelvprocesszor-hálózatok két fajtájának bemutatásával illusztráljuk az előbb mondottakat. Az első hálózat típust az ún. Lindenmayer-rendszerek hálózatai alkotják, amelyek fejlődő rendszerek leírására szolgáló, párhuzamos átírást alkalmazó grammatikák hálózatai. A második hálózat típus az ún. Watson-Crick Lindenmayer rendszerek hálózata, ahol a fejlődés megjelenítésére szolgáló párhuzamos újraírást egy, a DNS kiszámításból ismeretes alapvetõ tulajdonság, az ún. Watson-Crick komplementaritás elve kontrollálja. Bemutatjuk, hogy ezen hálózatok nagyon egyszerű nyelvprocesszorok és kommunikációs protokollok esetén is nagy hatékonyságú kiszámítási eszközök (a Turing-gépekkel egyenlõ erejűek), valamint segítségükkel - a rendkívüli párhuzamosság miatt - NP-teljes problémák is lineáris időben megoldhatók. Ugyancsak megmutatjuk, hogyan lehet ezen hálózatok esetében a csúcsokban elhelyezkedő szavakból álló multihalmazok dinamikáját leírni.

Irodalom:

• E. Csuhaj-Varjú: Networks of Language Processors. EATCS Bulletin 63 (1997), 120-134. Appears also in Gh. Pãun, G.Rozenberg, A.Salomaa (eds.) Current Trends in Theoretical Computer Science, World Scientific, Singapore, 2001, 771-790.
• E. Csuhaj-Varjú and A. Salomaa, Networks of parallel language processors. In: New Trends in Computer Science, Cooperation, Control, Combinatorics. (Gh. Pãun and A. Salomaa, eds.), LNCS 1218, Springer-Verlag, Berlin-Heidelberg-New York, 1997, 299-318.
• E. Csuhaj-Varjú and A. Salomaa, Networks of Watson-Crick D0L systems. TUCS Report 419, Turku Centre for Computer Science, Turku, 2001. To appear in Proc. Third International Conference on Words, Languages, and Combinatorics, Kyoto, 2000. (M. Ito, ed.), World Scientific, Singapore, 2002.
• G. Pãun, G. Rozenberg and A. Salomaa, DNA Computing. New Computing Paradigms. Springer-Verlag, Berlin, Heidelberg, New York (1998).
• Handbook of Formal Languages, Vol. I-III. (G. Rozenberg and A. Salomaa, eds.) Springer Verlag, Berlin, Heidelberg, New York, 1997.

Egy divat hordaléka: Kis-világ szerkezete van-e az emberi nyelvnek? Erdős Pál és Rényi Alfréd egy igen híres tételének következménye szerint a sok csomópontból álló véletlen hálózatokban (gráfokban) két véletlenül kiválasztott csomópont között a távolság, azaz az összeköttetést biztosító élek száma, nagy valószínűséggel elég kicsi. Bizonyos szabályos szerkezetekben ez a távolság nagy. A természetes hálózatok feltehetőleg általában átmenetet képeznek a teljesen véletlen és a teljesen szabályos szerkezetek között. Ezekre az jellemző, hogy az átlagos távolság kicisége mellett a klasztereződési mérték sokkal nagyobb, mint a megfelelő nagyságú véletlen gráfokban. Ezek a kis-világ gráfok (Watts 1999.) Ennél több is igaz. Minthogy nem minden csomóponthoz tartozik ugyanannyi él, az élek csomópontokon való eloszlása jellemzi a hálózat szerkezetét. A természetes hálózatok gyakran hatványeloszlással írhatók le ("scale-free distribution"). Ramon Ferrer i Cancho és Ricard V. Sole (2001) szerint az emberi nyelv szerkezetére is jellemző a kisvilág gráf. Az persze régóta ismert, hogy a szavak gyakorisága és rangja (n) közti összefüggést 1/n alakú eloszlás írja le (Zipf 1949, lásd még pl. Kornai 1999). Bár az elõadó elmondja, mi van nagyjából a Cancho és Sole cikkben, szeretné a nyelvészektől megkérdezni, nincs-e az egész konstrukció teljes ellentétben a felszini és mélystruktúrákról (mások által ismertekről (Chomsky 1957))?

Irodalom:

• Albert R and Barabási AL: Statistical mechanics of complex networks. Reviews of Modern Physics 74, 47, 2002.
• Chomsky N.: Syntactic structures. Mouton 1957.
• Erdős, P., and Rényi A.: On the evolution of random graphs. Publications of the Mathematical Institute of the Hungarian Academy of Sciences 5:17-6, 1960.
• Ramon Ferrer i Cancho and Ricard V. Sole: The small world of human language Proc. R. Soc. Lond. B 2261-2265;(2001).
• Kornai A: Zipf's law outside the middle range Proc. Sixth Meeting on Mathematics of Language University of Central Florida, 347-356, 1999.
• Watts, D: Small Worlds: The dynamics of Networks between Order and Randomness, Princeton Univ. Press. 1999.
• Zipf, G. K: Human behaviour and the principle of least effort. An introduction to human ecology. Cambridge, MA: Addison-Wesley, 1949.

A természetes nyelvek Chomsky-féle formális nyelvi modelljeinek alapvető feltevése, hogy a nyelvi tudásban két komponenst különíthetünk el: egy kombinatorikus rendszert (a szintaxist) és a kiinduló építőelemekrõl szóló tudást (a lexikont). A poszt-chomskyánus (konstrukciós) nyelvtanfelfogás ezzel szemben azt állítja, hogy a szavakat és a mondattani szerkezeteket (meg a sokféle közbeeső dolgot) egyöntetűen kell kezelni, mindezeknek egyszerre vannak formai és jelentéstani jellemzői: a konstrukciók a forma és a jelentés összekapcsolását valósítják meg.

Eszerint a kommunikációban nem lexikai építőkövekből kombinatorikus módon összeállított lineárisan rendezett sorozatokat használunk, hanem különböző szempontok egyidejű érvényesülését kifejező mintázatokat, konstrukciókat.

A Mindmaker egy ilyen poszt-chomskyánus nyelvtant próbál implementálni (az ,,integrált NLP'' paradigmáján belül). A konstrukciók asszociációs hálózatot alkotnak, de alapvetően szimbolikus információt hordoznak és a feladat kombinatorikus jellege is megmarad. Egyelőre nem világos, hogy az ismert szubszimbolikus reprezentációs és tanulási módszerek (pl. konnekcionizmus) hogyan tudnak számot adni a feladat kettős jellegéről.

Stephen Wolfram könyve több mint egy évtizedes munka után elkészült. Az 1980-as években sejtautomatákkal végzett kísérleteire alapozva, valamint az általa kifejlesztett Mathematica számítógépes programnyelv segítségével csaknem 1100 oldal előkészítés, és számtalan, a legkülönfélébb tudományterületről vett példa után érkezünk el a könyv központi mondanivalójához: a számítási ekvivalencia-elvhez (Principle of Computational Equivalence), amely többek között azt állítja, hogy egy bizonyos szinten túl bármely két rendszer bonyolultsága azonos.

A New Kind of Science olvasmányosan megírt könyv, és egyaránt szól specialistáknak, illetve laikusoknak. Az elmúlt évszázadok egyenletei helyett a hangsúly mindvégig az algoritmuson van. Állandóan végigvonuló motívum, hogy nagyon egyszerű szabályok mennyire összetett rendszereket képesek létrehozni. Wolfram azt jósolja, hogy szemléletmódja komoly kihatással lesz az egész tudományra, illetve tudományos gondolkodásunkra.

A prefrontális kéreg (PFC) működésének megértése tudat- és hangulatzavarokat okozó betegségek megértéséhez vezet közelebb és alapvető kérdés a kognitív idegtudományban. A PFC magatartási szerepére vonatkozóan a legelfogadottabb nézet, hogy működésén keresztül valósul meg a munkamemória, ill. annak végrehajtó funkciói. Az idegtudomány szempontjából a munkamemória modell operatív funkciója a különböző eredetű környezeti ill. tanult információ idegi reprezentációjának időleges, aktív formában tartása. A végrehajtó funkció ezen információ manipulációja, aminek erdménye a célszerű magatartás. A PFC-re jellemző, hogy a neuronok aktivitása erőteljesen fokozódik a rövid idejű tárolást igénylő feladatokban, mint pl. a késleltetett válaszreakciókon alapuló tesztek, valamint hogy ezen aktivitás gátlása hibás válaszokat eredményez. E késleltetett aktivitás tehát kiemelt fontossággal bír az említett funkciók ill. funkciózavarok szempontjából. Könnyen belátható továbbá, hogy a kellően flexibilis, mégis pontos magatartáshoz elengedhetetlen e mûködés optimális szabályozása: ezen aktivitás túlzott erőssége vagy instabilitása perszeverációhoz vagy disztraktibilitáshoz vezethet; mindkettő jellegzetes tünete a PFC hibás működésének. A késleltett aktivitás mechanizmusának un. reverberáción alapuló mechanisztikus modellje, ami kölcsönös kapcsolatban álló neuronok körkörös aktivitását jelenti, mára elveszítette magyarázó erejét. Előadásomban arra szeretnék rávilágítani, mit tudunk azokról a kérgi és kéreg alatti hálózatokról, melyek integrációja szükséges a PFC működési modelljének teljesebb felvázolásához.

Rövid áttekintést adunk a Mathematica új, még kereskedelmi forgalomban meg nem jelent alkalmazói csomagjáról, a Neural Networks csomagról. Ennek egyik legfontosabb jellemzője, hogy a betanított neurális hálózatot leíró függvénykapcsolat analitikusan is előállítható, és így egyszerűen beépíthető más alkalmazásokba. A csomag felhasználási lehetőségeit számos, különböző tudományterületről választott mintafeladat megoldásának bemutatásával illusztráljuk.

A számelméletben a kísérleteknek nagy hagyománya van, bár azt inkább táblázatok elemzésének, sejtések numerikus tesztelésének nevezték. Két klasszikus példát idézek erre, az egyik Gauss sejtése a prímszámok eloszlásáról, amelyet közel száz évvel később bizonyított de la Vallée Poussin és Hadamard, a másik Riemann sejtése, amelyet máig sem sikerült bizonyítani. Gauss és Riemann is alapos numerikus elemzéseket végzett sejtéseik megfogalmazása előtt, persze "papíron ceruzával".

A XX. században az elektronikus számítógép ötlete és az algoritmikus szemlélet elterjedése következtében egyre több kutatót foglalkoztatott az, hogy a matematikai objektumok ábrázolását, megjelenítését és az operációk algoritmikus kérdéseit tanulmányozzák. A Lehmer házaspár, Zassenhaus és Cassels munkássága átmenetet jelent a számítógép előtti és utáni korba. Azok közé tartoztak, akik felismerték, hogy a számítógépek a matematika kísérleti eszközei lehetnek. A kezdetek, az 1950-es évek elejének, egyik legnagyobb hatású eredménye a Birch és Swinnerton-Dyer sejtés, ami szerint elliptikus görbék geometriai és analitikus rangja megegyezik. A korábban említett példákhoz hasonlóan ezt is numerikus példák támasztották alá, de a tesztelést már számítógéppel végezték.

Diofantikus egyenletek megoldása ősidők óta a számelméleti kutatások egyik érdekes fejezete. Szisztematikus elméletről azonban csak a XX. században beszélhetünk, véleményünk szerint Hilbert 1900-ban megfogalmazott két problémája nyomán. Debrecenben a 80-as évek elejétől kapcsolódtunk be ezekbe a kutatásokba. Algoritmusokat fejlesztettünk ki és nemzetközi együttműködésben implementáltunk Thue-, indexforma-, elliptikus és más egyenletek megoldására és nagy mintákra alkalmaztuk azokat. A legfontosabb, szemléletet módosító eredmény az volt, hogy ezen egyenleteknek nincs nagy megoldása. Numerikus vizsgálataink módszerei befolyásolták az elméleti megfontolásokat is; jobban figyelnek a konstansokra és expliciten meghatározzák azokat valamint jelentősen finomodott néhány tétel bizonyításának a technikája. 20 évvel ezelőtt egyszerű Thue vagy elliptikus egyenlet megoldásáról még jó folyóiratban lehetett dolgozatot közölni, ma ezen feladatok megoldása rutin feladat egy alkalmasan megválasztott komputer-számelméleti szoftvernek. Az eredmények elemzésekor azonban ajánlatos az óvatosság, hiszen általában azt a választ kapjuk, hogy a feladatnak csak triviális megoldása van. A helyzet hasonló a prímtesztekhez, amikor gyors valószínűségi módszerekkel már majdnem bizonyosak lehetünk abban, hogy az adott szám prímszám, de a precíz matematikai igazolvány sokkal fáradságosabban állítható ki.

Az információ korát éljük. Az egyik legnagyobb gond, hogy miként találhatjuk meg az órási információs szénakazalban azt a tűt, amit éppen keresünk. Az evvel kapcsolatos eredmények közül kettővel szeretnék foglalkozni. Az egyik a Mögöttes Szemanikájú Indexelés elnevezésű keresőmódszer, a másik a találatok közötti fontossági sorrend becslését célzó Kleinberg-algoritmus.

A két megközelítés közös vonása, hogy lineáris algebrai modellt alkalmaz. Egészen más módon, de mindkettő a mátrixok szinguláris érték szerinti felbontásához (SVD) kapcsolódik.

Eközben alkalmunk lesz beszélni Lánczos Kornélról, a lineáris algebrai számítások zsenijéről, és a gondolkodásban előforduló szerencsés körkörösségről is.

A véletlen Boole-hálózatok tipikus példái az egyszerű elemekbõl felépülő komlex viselkedésű rendszereknek.Számos bonyolult, nemlineáris biológiai hálózat absztrakt modellkereteként alkalmazták őket, például: egymást reguláló gének rendszerére, egymással kölcsönható katalizátorok rendszerére - mint amilyenek az élet kezdetének molekuláris rendszerei lehettek -, csatolt koevolúciós rendszerekre és neuronhálózatokra. Szintén szoros kapcsolatban vannak a statisztikus fizika klasszikus modelljeivel, pl az Ising modellel és a perkoláció elmélettel.

Viselkedésük jellegzetes fázisátmenetet mutat az egy elemre eső kapcsolatszám függvényében. A kritikus kapcsoltság fölött "kaotikusan" - illetve a kaotikus viselkedés diszkrét analógjaként - viselkednek, a kritikus kapcsolatsűrűség alatt stabil periódikus viselkedést mutatnak. Munkánk célja egyrészt analítikus közelítést adni a sokáig csak numerikus szimulációkkal tanulmányozott jelenségekre, másrészt megérteni az elveket, amelyek e struktúrájában egyszerű, dinamikájában mégis komplex rendszer viselkedésem mögött húzódnak.

A központi idegrendszer feladata a külvilágból származó ingerek, információk felvétele, feldolgozása, raktározása és egyben a megfelelő válasz generálása. E feladat megvalósításra szolgál az a komplex neuronális struktúra, amely a törzsfejlődés során dominánsan a test középvonalába és feji végére helyeződött. Részei: nagyagy, kisagy, agytörzs, gerincvelő.

Az emlős agy szerkezete meglehetõsen konzervatív, az előző gerinces osztályokhoz képest újdonság az agykéreg kialakulása. A kéreg a konvencionális felfogás szerint hatrétegű, ám az egyes kérgi mezők funkciójuk illetve fejlõdéstani koruknál fogva ettől eltérő morfológiát mutatnak. Az agykéreg funkcionális moduljai a kérgi kolumnák (pl. a látóorientációs és egymással alternáló okuláris dominancia oszlopai).

Az idegrendszer alkotóelemei a neuronok (nyúlványos sejtek), serkentő (projekciós), illetve gátló (lokális sejt) osztályokat alkotnak, noha a határok nem húzhatóak meg szigorúan. Az idegsejtek között létrejövő kapcsolatok a szinapsisok, működésük (serkentő-gátló) és morfológiájuk (aszimmetrikus-szimmetrikus) szerint csoportosíthatóak.

Mivel az idegszöveti építőelemek identikusak mindegyik gerinces osztályban, az összehasonlító neuroanatómia egyik legizgalmasabb kérdése, hogyan tudja két különböző szerveződésű neuronrendszer ugyanazt a feladatot egyforma eredménnyel kivitelezni (pl. madarak daltanulása, térbeli memória kialakulása).

Az előadás célja, hogy felhívja a figyelmet arra: a Mathematica programcsomag nyilvánvaló képességein (szimbolikus és numerikus számolás, ábrázolás, animáció, hangkeltés, publikció papíron és weben) túlmenően különlegesen alkalmas lenne a számítástudomány elemeinek oktatására. A példák között szerepel a rekurzió, a listakezelés, a mintaillesztés, példák a funkcionális programozásra, l-kalkulus és egyebek.

Irodalom:

• Gray, J. W.: Mastering Mathematica. Programming Methods and Applications. AP Professional, Boston etc., 1994.
• Maeder, R. E.: Computer Science with Mathematica. Theory and Practice for Science, Mathematics, and Engineering, Cambridge University Press, Cambridge, 2000.
• Szili, L., Tóth, J.: Matematika és Mathematica, ELTE Eötvös Kiadó, Budapest, 1996.