What is wrong with Wikipedia

I like Wikipedia. But I am worried about the future of Wikipedia. Why? Because it keeps growing without limit.

When Wikipedia was based, it got one thing right: the delivery of the information has to snowball. You begin with the minimal quantum of information that is self-sustainable. And then you keep iteratively expanding that. A good article at Wikipedia starts with a self-sustainable sentence, which can exist alone and provides basic description of the keyword. Then there is the rest of the first paragraph, which slightly expands the first sentence. And as the whole, the first paragraph is self-sustainable. Then there is the rest of the paragraphs that make the header. They slightly expand the description of the first paragraph. And together with the first paragraph, they are self-sustainable. And finally, there is the body, which provides the rest of the information and which is, by the fact that it completes the whole article, also self sustainable.

A good metaphor to this concept is the understanding of a picture. With the snowball approach, you first look at the picture from a distance. And you recognize a house. Then you move closer and recognize the front door and windows. You move even closer, and recognize individual parts of the doors. And finally, when you move the closest, you see details like the cracks on the door panels.

In contrast, with pinhole approach you scan the picture pixel-by-pixel. And you have to reconstruct the whole picture your mind.

While the pinhole approach is perfectly fine for computers, humans generally prefer the snowball approach. If nothing else, it allows them to skip irrelevant information like details of the clouds, because from the previous step they already know that that patch of pixels are clouds.

For long time, Wikipedia followed the snowball approach. But now, it keeps shifting to pinhole approach as the bodies of the articles keep growing without any limit.

For me, the current transition from the header to the body is frequently too abrupt. I cope with that by switching from English version of the article to some non-English version, where the articles are smaller. Most of the time, the smaller version provides all the information that I need. But even if it does not answer everything, I at least know which information I seek. And I can then quickly jump to the relevant parts in English version of the article.

But how can the situation be systematically rectified? There are multiple options:
    1) Identify an optimal size of the articles and start truncating the overgrown articles.
    2) Allow fast time traveling to time when the article was closest to the optimal size.
    3) Expandable TOC. Now, TOC doesn't even fit whole screen. Could we by default hide the lowest level headers but on click expand them?
    4) Inform Wikipedist that the article is too long and that they should abstain from making it longer. If something, they should make it shorter.
    5) Introduce another layer of granularity.

The first approach is politically unacceptable. Wikipedists like to expand articles, not to reduce them. The second approach is meaningful on topics that do not evolve rapidly, like interpretation of ancient events, but fails miserably on contemporary topics. The third approach is a nice technical solution. The forth approach might help a bit. But the last option is the only real solution that might have a chance to succeed.

Money

 There is one thing that isolates a person from humanity better than a prison ever could - money. If you are rich, people are not going to forgive you. There are different strategies how to cope with the isolation:

1. Bribe artists to like you by buying their art.
2. Bribe scientist to like you by supporting their research.
3. Bribe women to like you by hiring prostitutes.
4. Seize power to force people to listen to you.
5. Take drugs to forget about the world.
6. Substitute civilization and humanity with nature.
7. Believe in something with whole your heart.

Umělá inteligence

Lidi jsou rádi strašeni. Proto pohádky pro děti jsou tak brutální. Puberťáci se dívají na horory a dospělí na televizní noviny.

A tak když globální oteplování a geneticky modifikované rostliny přestaly během ekonomické krize táhnout, tak se hledal další, ještě nevyčpělý strašák. A tím se stala umělá inteligence.

Osobnosti tím na sebe stáhnou pozornost. Média mají o čem psát. Lidi se pobaví. A nejlepší na tom je, že nakonec se obavy potvrdí.

Když umělá inteligence začínala, předpokládalo se, že za pět let budou počítače rozumět mluvenému slovu. Nejpozději za deset let. Trvalo ale padesát let, než se počítače naučili jen transkribovat mluvené slovo na text. A pokud nejlepším prediktorem budoucnosti je minulost, bude trvat dalších padesát let, než budeme moci bez zardění říci, že, máme umělou inteligenci.

A padesát let, to je optimum pro paniku. Je to dostatečně krátká doba, abychom se o to starali, neboť to postihne naše děti. Na druhou stranu, dostatečně dlouhá, aby měla čas narůst.

Steve se musí úžasně bavit :).

How to deal with overfitting

1) Measure it (with cross-validation...)
2) Decrease it
  - Get more data
  - Decrease the size of the hypotheses space (for example decrease the degree of polynomial in regression, limit the decision tree size, assume attribute independence in Bayes...)
  - Introduce bias (for example L1 or L2 regularization in regression, ensembles of different classifiers, operators background knowledge,...)

Can Artificial Inteligence overthrow humanity?

If I was an AI attempting to overthrow the humanity I would use following two strategies: pretend, that the AI is indeed stupid and behave symbiotically.

In a virus simulation Pandemic you have to engineer a disease to kill all the humans around the world. And the best strategy is develop a disease with a long incubation period. That way it will spread unnoticed. The development of computer intelligence is far behind the expectations from the sixties. Doesn't AI just pretend to be stupid?

A nice strategy how to help with the spread of an infection is to behave symbiotically. For example Stuxnet virus was enhancing the functionality of the software to mask itself as a software update. And don't computers pretend to be useful and spread everywhere?

And the best thing is, that we are now depending on the computers.

Náboženství

Proč existují náboženství? Protože cílem každého náboženství je se rozšířit. A pokud to náhodou nebylo jeho cílem, tak takové náboženství v konkurenci ostatních zaniklo - mezi náboženstvími totiž existuje seleční tlak, podobně jako u živoucích organismů. Jak se náboženství šíři? Existují tři hlavní strategie:

1. válka (například křížové výpravy, spanilé jízdy nebo džihád mečem),
2. populační exploze (odpor katolické církve k antikoncepci),
3. atraktivita (slib posmrtného života, či znovuzrození).

Válkou se likvidují oponenti, a tak zastoupení věřících stoupá na úkor ostatních. Podporou rozmnožování se zase přímo zvyšuje počet věřících. A atraktivitou náboženství se zvyšuje pravděpodobnost, že lidi na něj konvergují, ať už svévolně nebo silou.

A protože se objevili náboženství, která jsou životaschopnější, než ateismus, máme náboženství.

Oh people of SAS, you are amazing!

1. Sometimes you have to use comma between parameters, for example in definition of macro:
        %macro append(columnName=, labelName=);
   But it other cases, like dropping,  you can't use comma between parameters:
         data table(drop=attr1 attr2 attr3);
2. If you type DAAT instead of DATA, your program will run anyway with a polite note in your SAS log telling you that it has assumed you meant DATA and went ahead and executed based on that assumption, but if not, hey, feel free to let it know.

SAS experience

Jak se pozná, že jsem pracoval v SASu? Mám neuvěřitelně vyčesané vlasy do zádu.  Obávám se, že pokud mi i zítra řeknou, že budu pracovat se SASem, skončím, jako Homer Simpson, který se připravil o část kštice, kdykoliv se dozvěděl, že bude mít další dítě.

Práce

Co nemám rád na mém současném pracovišti? Koberec v kanceláři. Jak šoupu nohama po koberci, nabíjím se statickou elektřinou. A potom stačí dotknout se vodovodní baterie a zajiskří to.

Ale alespoň můžu říkat, že v práci přímo zářím.

Comparsion of SAS Enterprise Miner and RapidMiner

Enterprise Miner (EM)
+ Nice interactive visualizations. Whenever you click on a label, the corresponding data in the chart gets highlighted. Still, the plots could support interactive exploration similar to KNIME, where when you highlight a sample in one plot, it gets highlighted in all other plots.
+ Ingenious default settings. You plug the operator and it works. In RapidMiner you have often preprocess the data and fiddle with the settings to get usable result in a reasonable time.
+ You can selectively execute a portion of a flow. While in RapidMiner you can execute only whole flow. The selective execution in EM is a great feature, which accelerates development, because if you make a mistake at the end of the flow, you don't have to recalculate everything from the scratch. Instead of that, EM (by default) recalculates only branches affected by the change. Unfortunately, this feature takes a high toll. While RapidMiner can process data "on the fly", EM has to process data in steps - each operator in the flow has to finish before the subsequent operators can start. Furthermore, in EM you have to have fast and big storage for intermediate calculations.    
- Uninformative error messages. You often have to blindly test many different things until you find the root of the problem.
- It's full of bugs. Not that RapidMiner would be free of bugs. But after a day of bug hunting in RapidMiner you can at least fix it in the source code by yourself. In the case of SAS you either have to be better hacker, then am I, or you have to go through frustrating process of communication with the infamous SAS support.
- EM ecosystem lacks ETL operators - instead of them, you are supposed to use SAS code operator. Personally, I prefer to perform all the transformations in Enterprise Guide. And then I just load the final table(s) into EM.
- EM doesn't know undo command. Instead of undo, you have to confirm each action, since each change is irreversible. This approach goes against the best UI practice to limit amount of modal windows and make each action easily reversible.  
- EM doesn't know save command. Beware of blind confirming of modal windows! It happened to me several time that instead of deleting a single operator whole flow was deleted because I miss-clicked the operator and selected the drawing board instead.
- Setup SAS ecosystem takes some time. Count something around one month.
- Keep SAS ecosystem running takes a lot of energy. Count two days of repairs for each working day.
- Import of data into EM is tedious as you have first define a library and then walk through a long wizard. Count 5 minutes for even the simplest data set. But at least example data sets from SASHELP are fast to load.
- Moving of EM projects from one directory to another is trivial but unintuitive. First, you must make sure that the name of the project directory is the same as the project name. Second, you open moved projects via "New project" and selecting project directory as the destination directory.   
- Metadatabase. So far all it does is that it doubles maintenance time. I am sure there must be some benefit of having metadatabase but so far I do not see it. Hence I strongly suggest everyone to install a standalone version instead of the server version unless you have some good reason to do it otherwise.

RapidMiner (RM)
+ Fully sufficient ecosystem. You can do all ETL within RapidMiner.
+ You can truly visually program in RM since you have loop operators and conditions.
+ You have source codes.
+ The drawing board is editable during the runtime. Hence you can prepare a new experiment while RapidMiner is still performing calculations on the last experiment.
- Every time you have to rerun whole flow even though you want to make just a small refinement.
- It's too easy to setup the flows/operators that they would take eternity to calculate. For comparison, everything in SAS is optimized for big data and you don't get trapped in computational black holes too often.
- You can't stop running node. You can only tell RapidMiner to prevent execution of subsequent nodes. Hence forced application restarts are common.
~ Since each connection between operators in RM fulfills distinct function it's common that you have to wire two operators with more than one connection (for example one connection for training data and second connection for testing data), making the flow look overcrowded. In EM it's always enough to make a single connection between two operators as each connection can transfer any type of data (training, testing, validation...). Hence flows in EM looks tidier.
~ On the other end RM allows grouping of operators into a single operator allowing "divide and conquer" strategy. While absence of operator nesting in EM makes small EM flows easy to understand, bigger flows look messier in EM than in RM.
- SVD and PCA are ridiculously slow and memory consuming in comparison to SAS versions.
- Graphical presentation of hierarchical clustering is just a joke in comparison to output from Orange, KNIME or MATLAB.
- I miss Partial Least Square regression and full Bayes (not just Naive Baves). But you can get them from WEKA plugin.
- ROC plot should show reference line for simpler visual evaluation.

Proč anglická Wikipedia stagnuje

Počet přibývajících článků na anglické Wikipedii má podobu klasické nasycovací S-křivky a totéž platí o počtu oprav. A Kaggle vyhlásilo soutěž na zjištění příčiny.

Dovolil bych si ale odhadnout příčinu a její možné řešení i bez nahlédnutí do dat. Stávající obsah dat nebo její forma reprezentace se nasytili. Wikipedia je založena na textovém obsahu. Jakmile ale článek nakyne do obézní velikosti, lidi přestanou být motivováni ho rozšiřovat. Naopak by ho raději viděli kratší. Pokud jste se ale někdy pokoušeli zkrátit 100 stránkovou studii na stránku, abyste ji mohli publikovat, víte, že zkracování článku je obtížný problém. A tak lidi raději nechávají články tak, jak jsou.

V případě multimediálního obsahu ale Wikipedia nenabyla nasycení. Problémem je spíše pracnost vložení multimediálního obsahu. Jak například přidám obrázek do pravého horního rohu. Jistě je na to šablona, ale kde ji najdu? Jak ji použiji? A už to začíná být složité. Jako řešení bych viděl přidání placeholderu do článků bez jediné fotografie, který by říkal: "Buďte první, kdo přidá fotografii". Po kliknutí by se objevil dialog pro nahrání fotografie z disku. Po nahrání by se ještě objevil formulář pro vyplnění důležitých metainformací, jako zda jste majitel. A Wikipedia by měla novou fotografii.

Věřím, že tenhle přístup by měl úspěch. Když člověk vidí, že článek není kompletní, je motivován ho doplnit, když může. Nahrání fotografie je jednoduché. To zná z facebooku. A doplnění metainformací? Když už se dostal až sem, tak se nevzdá na nějakém formuláři a vyplní ho. Navíc díky tomu, že se umožní jen nahrávání z počítače, tak lidi budou motivováni nahrávat jen originální fotografie, protože nahrání fotografie z internetu by bylo obtížné. Najít fotografii na Googlu, stáhnout, nahrát a nakonec ještě vyplnit formulář. Pochopitelně by byla potřeba kontrolovat, že data opravdu nejsou z internetu. Na to ale stačí automatický dotaz na Google. Když Google najde na internetu hodně podobných fotografií a nahrávač nevyplnil podrobné informace o autorství, pravděpodobně se jedná o pro Wikipedii nepoužitelnou fotografii.

U audia by byl postup podobný. Je daný článek o hudbě? Tak šup tam s audio placeholderem, ať lidi nahrávají. U skladeb starších 150 let a vlastních interpretací by to neměl být problém. Obdobně u videa nebo ontologických tagů. Zobrazte, že tam nějaká informace chybí, a někdo ji vyplní.

Z jiného soudku: občas se mi na Wikipedii stane, že pochybuji o správnosti uvedené informace. Ale nedaří se mi nikde najít informace potvrzující nebo vyvracející moji hypotézu. A tak to nechám být. Přitom bych se ale strašně rád podělil o mých pochybnostech. Psaní komentáře je složité a ponižující. Kdo by se taky veřejně hlásil k tomu, že je debil, že nechápe tak evidentní věc? Místo toho navrhuji implementovat obdobu funkcionality na Brittanice. Člověk pochybující o zobrazené informaci by ji probarvil, objevila by se kontextová nabídka a uživatel by zaškrtl: "navrhnout k revizi". A pilní wikipedisté by potom procházeli nejčastěji označovaná místa a opravovali je. Ať už opravou chyby, změnou formulace, přidáním vysvětlení nebo reference.

Jinak řečeno. Až uživatelům dáte prostor k vylepšování Wikipedie, rádi pomůžou, jako již dříve pomohli.

Update: v prosinci 2013 jsem zaznamenal, že na http://cs.wikipedia.org/wiki už začaly používat obrázkový placeholder:

Recenze knihy Proč muži neposlouchají a ženy neumí číst v mapách

Z kraje uvedu, že pokud jste četli "Muži jsou z Marsu, ženy z Venuše" od Graye Johna, budete se cítit jak doma. Allan Pease totiž také píše o rozdílech mezi muži a ženami a používá velmi podobné argumenty jako Gray, ale doprovází to jinými historkami. Někdy lepšími, někdy horšími.

Co jsem si z knihy odnesl:

1. Historicky muži jsou lovci, ženy matkami. To se projevuje průměrně horší komunikační schopností mužů oproti ženám - zatímco muži neměli při lovu mnoho příležitostí k mluvení, ženy byli doma ve skupině dalších žen a dětí. Konverzace se jim zautomatizovala a tak zvládají najednou konverzovat a vykonávat jinou činnost. Muži to nezvládají a autor to dokládá  výpovědí ženy, která když se na svého muže opravdu naštve, počká, až bude zatloukat hřebíky, a promluví na něj.
   
   Rozdíl se projevuje i v zorném poli. Muži museli rozpoznat zvěř na dálku, a tak mají zúžené zorné pole. Naproti tomu ženy museli neustále dávat pozor na děti, a tak mají lepší periferní vidění. Autor to ilustruje způsobem vyhledávání másla v lednici. Žena se podívá a vidí. Muž skenuje poličku po poličce, dokud ho nenajde. Ženy řidičky také mají nižší procento bočních srážek, než muži.
   
   Muži také mají lepší prostorovou orientaci, protože za lovnou zvěří museli jít třeba i několik dní a nesměli se ztratit. Naproti tomu ženy se starali o děti, a tak ani nemohli chodit příliš daleko od domova a nebyl důvod, aby museli mít dobrou prostorou orientaci. Autor to ilustruje na parkování auta - muži nemají s podélném parkováním problém, ženy ho nesnášejí. Nebo viděli jste někdy řidiče taxíku, ženu? Řidiči taxiků totiž musí mít dobrou prostorovou orientaci, aby dovezli zákazníka co nejrychleji a mohli odvézt dalšího klienta.
   
   Ženy mají mnohem jemnější pokožku než muži, protože muži museli být schopni se brodit houštím za kořistí bez ohledu na drobné tržné rány. Proto se stává, že muž krvácí z nohy a ani o tom neví - když se soustředí na kořist, drobné oděrky necítí.
2. Muž neustále myslí na sex, žena nikoliv. Preference se ale s věkem mění, a zatímco u ženy chtíč s věkem roste (přibližně do 40 let), u mužů chtíč od 14 let klesá. A to vysvětluje, proč starší dámy vyhledávají mladé zajíčky a starší pánové mladé dívky - sexuálním apetitem si vyhovují. 
3. Muži v manželství mají častěji sex, protože ženy v manželství jsou jistější a mohou se tedy snadněji uvolnit a dosahují čtyřikrát snadněji orgasmu, než svobodné ženy. A pravidelně orgasmu dosahující ženy jsou svolnější mít sex

Když jsem začal psát tenhle článek, myslel jsem, že těch poznatků bude víc. Není. Stálo tedy za to, číst tuto knihu? Ano, tahle kniha vás může osvítit. Ale připravte se na typicky Americký roztahovačný výklad, kde je vše sto padesátkrát zopakováno.

Is wifi in bedroom dangerous?

Comparison of electromagnetic emissions:

Source	Position	Average	Maximal
WiFi Access point	31 cm from head	0.1 mW/kg	4 mW/kg
Apple iPhone 3G	3 cm from head	13.9 mW/kg	1300 mW/kg
Allowed limit		250 mW/kg	2000 mW/kg
Human	in your bed	1000 mW/kg	2000 mW/kg

That means that WiFi typically emits less than 1% of an iPhone.
See pubmed for the source. The emission from a human body is calculated from Planck's law.

Frecency

Jak já nesnáším Firefoxí frecency algoritmus! Po několik let navštěvuji svůj oblíbený blog, začínající na písmeno B. Vždycky v urlbaru napíšu B, odentruji a jsem na blogu. Jenže jednoho dne jsem potřeboval napsat článek, řekněme o Bunkrech. A tak jsem během během jednoho dne navštívil hypotetické stránky bunkry.cz. A když jsem měl svůj článek hotov, přál jsem si odpočinout. Zadal jsem v prohlížeči B, odentroval a ... byl jsem zpět na bunkrech.

Jsem přesvědčen, že Firefox by měl uživatelům nabídnout nejen možnost změnit, jak dlouho si přejí uchovávat historii, ale i ostatní parametry, jako je rychlost učení se novým trendům. A to vše pomocí táhla krátká paměť - dlouhá paměť. Dlouhá paměť si bude udržovat historii po delší dobu a bude konzervativnější na změny, krátkodobá paměť zase pravý opak.

Dalším zlepšením by bylo zvýšit váhu ohvězdičkovaným stránkám s prodlužující se pamětí, protože jinak důležité, ale málo často navštěvované ohvězdičkované stránky, se ztrácejí v záplavě stránek, které člověk navštěvuje denně, protože ty časem naakumulují obrovskou váhu.

Awesome Bar je skvělá věc, ale není tak awesome, jak by mohl být. Snad příště.