Mijn Werk
De volgende mensen heb ik ontmoet in het kader van mijn werk bij de Universiteit van Santa Cruz
Manfred K. Warmuth De professor die mij hier begeleidt. Goeroe op het gebied van on-line learning. Zijn cactussen vermenigvuldigen zich als konijnen, en zijn konijnen groeien als kool.
Nie Jiazhong PhD. student van Manfred. Een feest om mee samen te werken.
Imre Risi Kondor Kwam een praatje geven over non-commutative Fourier transformaties, met als toepassing kansverdelingen over permutaties.
S.V.N. Vishwanathan Kwam discussieren over graphical models en benaderingen die gebruikt worden in toepassingen.
David Helmbold Collega van Manfred.
Jake Abernethy Co-auteur van Manfred in het paper dat de optimale strategie in de Hedge setting beschrijft. Kwam discussieren over gerelateerde minimax problemen.
Jyrki Kivinen Een van de founding fathers van on-line learning. Is zes maanden op sabattical hier aan de UCSC.
Karen Glocer Manfred Warmuth's student. Bijna afgestudeerd.
Maya Hristakeva Manfred Warmuth's student. Werkt part-time voor een bedrijf dat optische glucosemeters maakt voor diabeten.
Damian Eads David Helmbold's student.
Anna Povzner Scott Brandt's (de Storage professor) student.
Arthur van Benthem Promovendus in de economie te Stanford. Getrouwd met Siemone Griffioen. Samen gaven ze me een rondleiding over de campus daar.
Petert Bartlett Professor in statistiek en informatica aan de Universiteit van California te Berkeley.
Deze artikelen zijn mijn leesvoer:
David P. Helmbold and Manfred K. Warmuth. Learning permutations with exponential weights. Journal of Machine Learning Research, 10:1705-1736, July 2009. [ .pdf ]
Jonathan Huang, Carlos Guestrin, and Leonidas Guibas. Fourier theoretic probabilistic inference over permutations. Journal of Machine Learning Research, 10:997-1070, 2009. [ .pdf ]
Manfred Warmuth and Dima Kuzmin. Bayesian generalized probability calculus for density matrices. Machine Learning, 2009. [ DOI ]
N. Cesa-Bianchi and G. Lugosi. Combinatorial bandits. In Proceedings of the 22nd Annual Conference on Learning Theory, 2009. [ .pdf ]
Manfred K. Warmuth and Dima Kuzmin. Randomized online PCA algorithms with regret bounds that are logarithmic in the dimension. Journal of Machine Learning Research, 9:2287-2320, October 2008. [ .pdf ]
Jacob Abernethy, Manfred K. Warmuth, and Joel Yellin. Optimal strategies for random walks. In Proceedings of The 21st Annual Conference on Learning Theory, July 2008. [ .pdf ]
Geoffrey J. Gordon, Amy Greenwald, and Casey Marks. No-regret learning in convex games. In ICML '08: Proceedings of the 25th international conference on Machine learning, pages 360-367, New York, NY, USA, 2008. ACM. [ DOI ]
Terry Koo, Amir Globerson, Xavier Carreras, and Michael Collins. Structured prediction models via the matrix-tree theorem. In Proceedings of the 2007 Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning (EMNLP-CoNLL), pages 141-150, 2007. [ http ]
Jan Poland. Algorithmic Learning Theory, volume 4264/2006 of Lecture Notes in Computer Science, chapter The Missing Consistency Theorem for Bayesian Learning: Stochastic Model Selection, pages 259-273. Springer Berlin / Heidelberg, 2006.
Marcus Hutter and Jan Poland. Adaptive online prediction by following the perturbed leader. Journal of Machine Learning Research, 6:639-660, April 2005. [ .pdf | .html | .pdf | http | http ]
Adam Kalai and Santosh Vempala. Efficient algorithms for online decision problems. J. Comput. Syst. Sci., 71(3):291-307, 2005. [ DOI ]
Arindam Banerjee, Srujana Merugu, Inderjit S. Dhillon, and Joydeep Ghosh. Clustering with bregman divergences. Journal of Machine Learning Research, 6:1705-1749, 2005. [ .pdf ]
Mark Jerrum, Alistair Sinclair, and Eric Vigoda. A polynomial-time approximation algorithm for the permanent of a matrix with nonnegative entries. J. ACM, 51(4):671-697, 2004. [ DOI ]
Eiji Takimoto and Manfred K. Warmuth. Path kernels and multiplicative updates. Journal of Machine Learning Research, 4:773-818, 2003. [ .ps ]
Katy S. Azoury and M. K. Warmuth. Relative loss bounds for on-line density estimation with the exponential family of distributions. Machine Learning, 43(3):211-246, 2001. [ DOI ]
M. Mosbah and N. Saheb. Non-uniform random spanning trees on weighted graphs. Theoretical Computer Science, 218(2):263-271, May 1999. [ DOI ]
Thomas L. Magnanti and Laurence A. Wolsey. Optimal trees. In M. Ball, T. L. Magnanti, C. L. Monma, and G. L. Nemhauser, editors, Network Models, volume 7 of Handbooks in Operations Research and Management Science, pages 503-615. North-Holland, 1995. [ http ]
A. Broder. Generating random spanning trees. In SFCS '89: Proceedings of the 30th Annual Symposium on Foundations of Computer Science, pages 442-447, Washington, DC, USA, 1989. IEEE Computer Society. [ DOI ]
Dan Gusfield. Connectivity and edge-disjoint spanning trees. Information Processing Letters, 16(2):87-89, 1983. [ DOI ]
Manfred geeft een tempeh workshop. Dit is het beoogde eindresultaat.
Het proces gaat in een aantal stappen. Eerst worden de sojabonen gekraakt. Bonen bestaan uit twee helften, en die moeten worden gescheiden. Manfred gebruikt hiervoor een bierbrouwersmolen die hij aandrijft met de boormachine. Daarna buiten met de föhn de vliesjes eruit blazen. Dit gebeurt boven het konijnenhok, zodat de vliesjes niet verloren gaan.
Nu moeten de bonen 4 uur weken. Gelukkig heeft Manfred al een tweede batch klaar staan die al 4 uur geweekt heeft, dus we kunnen meteen verder. Na het weken gaan de bonen in de snelkookpan. Manfred heeft zijn snelkookpan opgevoerd: "commerciële producten hebben een veiligheidsmarge van een factor 4", en voorzien van een manometer.
Daarna afkoelen, tempeh schimmelsporen erbij, goed roeren, en in de bak. De bak gaat daarna drijvend in de incubator. Dit is een plastic bak met water van 28°C. De deksel gaat op de bak met een potlood ertussen. En dan een handdoek erover.
Anderhalve dag later. De tempeh is al bijna klaar. Het hele oppervlak moet wit zijn, dan is het goed. Dat duurt nog een halve dag.
Kruiden. Wokken. Yummie!
Oogsttijd! De spirulina zijn flink gegroeid. We meten met een geïmproviseerde Secchi schijf de doorzichtbaarheid. We hebben een satéprikker door een plectrum met zwart-witte alienhoofdopdruk gestoken. Na ca 2,5 cm zie je de plectrum niet meer. De ideale oogsttijd is tussen de 2 en 3 cm.
We besluiten om eerst eens te kijken wat er eigenlijk in die fles gegroeid is. Manfred graaft ergens achter-onder een microscoop op. Een behoorlijk goeie, vergroot tot 1000x.
En dit is het resultaat:
Dit beeld klopt met het boekje. Dit is spirulina platensis. Op naar de oogst. We hevelen het water door een fijnmazig filter.
En hier is de oogst. Ongeveer een eetlepel. Eiwitrijk. Het smaakt naar avocado.
Manfred verhuist de spirulina naar een 10 liter pyrex fles. We hebben starter mix van Aaron gekregen om het "medium" te vormen. Kleine beetjes sodium bicarbonate, zout, ijzer, potassium, magnesium, mangaan etc. En niet te vergeten vitamine B-6.
We verhuizen de spirulina naar Manfred's kas. Daar is meer licht. Het is nog erg doorzichtig. Manfred's muts ter referentie. In de fles zie je een aquariumbubbelsteen, die maakt kleine luchtbelletjes. De fles staat op een magnetische roerplaat uit een biologisch laboratorium. In de fles zit een 6cm staafje met ijzeren kern. De plaat wekt een draaiend magnetisch veld op, waardoor het staafje de vloeistof roert. Zo komt alle spirulina langs het oppervlak van de fles, waar de fotosynthese plaatsvindt.
De roerplaat kan ook verwarmen (de schaal gaat tot 500°C!), maar het lukt 'm niet om de fles op 35°C te houden. Manfred koopt later die dag een aquariumverwarmer die door de opening van de fles kan.
De spirulina van Aaron de algenkweker worden in leven gehouden in Manfred's tempeh incubator. Een waterbak met een aquariumverwarmer. Het slangetje pompt lucht in de algen. Zo krijgen ze lucht en blijven ze in beweging. Ze worden steeds groener.
Het resultaat van ruim 3 maanden werk opgestuurd naar COLT 2010. Het paper heet Hedging Structured Concepts. Mijn coauteurs zijn Manfred K. Warmuth van de Universiteit van Californië Santa Cruz, USA en Jyrki Kivinen van de Universiteit van Helsinki, Finland. Hier is het abstract
We develop an online algorithm called Component Hedge for learning structured concept classes when the loss of a structured concept sums over its components. Example classes include paths through a graph (composed of edges) and partial permutations (composed of assignments). The algorithm maintains a parameter vector with one non-negative weight per component, which always lies in the convex hull of the structured concept class. The algorithm predicts by decomposing the current parameter vector into a convex combination of concepts and choosing one of those concepts at random. The parameters are updated by first performing a multiplicative update and then projecting back into the convex hull. We show that Component Hedge has optimal regret bounds for a large variety of structured concept classes.
Zoals gewoonlijk is het nu wachten en bidden dat het geaccepteerd wordt.
Ik ga met Manfred op bezoek bij een kerel in Berkeley die spirulina kweekt. Dat is een eencellig organisme, een alg, zonder celwand. Het leeft in water en eet CO2. Dat is goed, want van dat broeikasgas hebben we teveel. Spirulina maakt het water waar het in groeit langzaam steeds basischer. De pH zit zo rond de 11. De meeste andere microogranismen kunnen daar niet tegen, dus Spirulina kun je heel puur kweken. De gewraakte kerel kweekt het om op te eten.
Zoals je ziet heeft onze spirulinus nogal een laboratorium thuis. Die groene drab in het aquarium is de spirulina. Hij heeft er een extra TL-buis op gezet voor meer licht. De slangetjes zijn voor de lucht pomp en de verwarming. Achter zie je een centrifuge, waarmee hij vloeistof concentreert voor onder de microscoop. Links een pot krachtvoer voor de algen. De flessen bij het raam bevatten spirulina, gekweekt in verschillende concentraties urine. Alles voor de wetenschap.
Deze jongen is een professional. Hij is de hoofdspirulinaexpert van een groot miljoenenproject dat de UCSC binnenkort op zee gaat uitvoeren. Ze gaan restwater zuiveren m.b.v. algen op zee. Manfred heeft een flesje spirulina en allerlei zakjes groeimix meegekregen voor thuis, en is aan het broeden hoe hij z'n groeibassin wil inrichten.
Biochar is houtskool die onder hoge temperaturen zonder zuurstof is verbrand. Het schijnt goed te zijn voor het milieu om biochar te maken en uit te strooien, want zulke houtskool blijft lang in de grond zitten. Ook is h et goed voor de grond, want het houdt water en voedingsstoffen vast.
Biochar maken is geen kattepis. Maar Manfred en een horde vrijwilligers gaan het proberen. Het idee is eerst een klein olievat te vullen met hout. Dit gaat dan bijna afgesloten ondersteboven in een groot olievat. De tussenruimte wordt opgevuld met aanmaakhout. Het geheel wordt aangestoken, en meteen afgedicht met een deksel met schoorsteen.
Daarna brandt het voor 2 a 3 uur. De binnenste ton wordt heel heet. Gassen komen uit het hout (pyrolyse), en verlaten de binnenste ton onderlangs. Hier komen ze in aanraking met zuurstof en verbranden omhoog. Dit houdt de binnenste ton heet, en blijft het proces gaande. Er kwam inderdaad heel mooie houtskool uit. Maar we hebben wel de hele buurt onder de rook gezet. Echt, dichte mist. Gelukkig was de hele middag Superbowl op televisie. Anders had er zeker iemand de brandweer of de politie gebeld. En eenmaal gaande kun je het niet makkelijk meer stoppen.