On Chomsky and the Two Cultures of Statistical Learning

ενδιαφέρον! η πλάκα είναι ότι ο ίδιος ο Chomsky έχει γίνει αντικείμενο κριτικής για ακριβώς τους ίδιους λόγους που τώρα κριτικάρει τους “στατιστικολόγους”. Ο http://en.wikipedia.org/wiki/Sebastian_Shaumyan για παράδειγμα είχε επιτεθεί έντονα στον Chomsky γιατί θεωρούσε τις γλωσσολογικές θεωρίες του “μοντέλα” που απλά περιγράφουν τι κάνουν οι άνθρωποι και δεν έχουν σχέση με τον πυρήνα του φαινομένου της γλώσσας.

Τέλος πάντων, το πρόβλημα με το άρθρο, που κατά τα άλλα είναι ευχάριστα κριτικό, είναι ότι τελικά η βασική αντίρρηση είναι αυθαίρετη: λέει “What constitutes a language [..] is the contingent outcome of complex processes. Since they are contingent, it seems they can only be analyzed with probabilistic models.”. Αυτό, εκτός από αυθαίρετο συμπέρασμα, είναι μια τρελά ηττοπαθή δήλωση η οποία στερεί από την επιστήμη την οποιαδήποτε ανθρώπινη σημασία, δηλαδή στον στόχο να αναγάγουμε τα πολύπλοκα φαινόμενα σε απλότερα φαινόμενα. Άρα το πρόβλημα δεν είναι εάν στέκεται ικανό να περιγραφούν στατιστικώς τα φαινόμενα πάντα, κάποτε ή ποτέ, αφού αυτό είναι τετριμμένο (η απάντηση είναι πάντα). Το κίνητρο πίσω από την επιστήμη (σε αντίθεση με την μηχανική) είναι πως μπορούν να εξηγηθούν τα φαινόμενα, να αναχθούν σε απλούστερες και πιο αφηρημένες αρχές. Βεβαίως πρέπει πρώτα να ανακαλύψουμε τα φαινόμενα, κατά συνέπεια είναι τετριμμένο ότι η επιστήμη ασχολείται στατιστικά περισσότερο με την περιγραφή από την θεωρητική αναζήτηση. Παραμένει όμως ότι εάν αντικρίζαμε τον δαίμονα του Maxwell θα ήταν ανόητο να πούμε ότι το στατιστικό μοντέλο που θα περιγράφει το φαινόμενο είναι το σημαντικότερο ζητούμενο της επιστημονικής ανάλυσης του φαινόμενου, απ’ότι να εξηγηθεί γιατί παραβιάζεται ο 2ος θερμοδυναμικός νόμος.

unfortunately, while not absolved of responsibility for themselves (which would indicate a different approach to the crisis) the angry people at Syntagma are perfectly right that they are not responsible for the state of government simply because they did or did not vote or participate in a political party. That would be something akin to a magical conception of politics, where the personal decision to vote or not to vote, although incapable of actually affecting anything, magically makes the person responsible for government officials’ decisions and liable for much more than what could be considered proportional to their involvement. Indeed, it appears that the Greek state is an inverse corporation where shareholders/citizens liability is unlimited (except by the very costly option of emigration).

But this is unreasonable: just because I was born in Greece does not mean I am liable for anything more than a) my share of public property and b) damages caused by my personal actions. It is even more unreasonable that the same people who personally took the actions that damaged the public purse should now be forcing me to pay for those damages. I accept that the losses that are caused by bad executive decisions must be taken out of each one’s share of common property, but it is highly immoral that they be taken out of the private property of those who had no (real) say in the matter.

So the angry people in Syntagma are justified in opposing the current situation. Unfortunately they are not justified in most of the alternative situations they imagine, most of which absolve them of a perfectly reasonable liability considering their share of public property. So for example they don’t want to see ‘fat’ public corporations be sold to the highest bidder, because ‘they belong to the people’. But you can’t have it both ways, either you have limited responsibility and liability or unlimited. Either government responsibility (and liability) is reducible to citizens’ responsibility (and liability) – so the public debt is in effect a personal debt for each one of us – or citizens have limited responsibility (and liability).

In the first case it is a matter of deciding collectively how we will repay this essentially personal debt or if we will default all together. That is indeed a huge responsibility, and the angry people in Syntagma calling for direct democracy are most probably feeling safe from this responsibility knowing that it is unlikely to happen.

In the other case we may claim that we are not to be held accountable for the negative margin of the budget and we can even fire this incapable government but we cannot dictate how it will go about it’s business in trying to rescue this failed state. They must sort it out and are personally liable for any personal wrongdoings.

Πάντως πράγματι από τα όσα έχω δει και εγώ στην πλατεία η συνέλευση έχει βρει ένα modus και συντάσσει ιδέες και προτάσεις (φαίνεται π.χ. ότι έχει προταθεί η λειτουργία κάποιου alt currency στυλ hours). Το φυσικό όμως “πρόβλημα” είναι ότι αυτές οι προτάσεις εκφράζουν κυρίως όσους έχουν επιλέξει να πάνε στη συνέλευση και να συμμετέχουν. Είναι αυτό ένα μοιραίο αμεσοδημοκρατικό μειονέκτημα; δεν ξέρω.

Δεν με πειράζει που οι απόψεις που εκφράζονται στη συνέλευση δεν με βρίσκουν σύμφωνο στην πλειονότητα τους. Αυτά έχει ο κοινωνικός πειραματισμός, και δεν με φοβίζει καθόλου. Το θέμα που βλέπω εγώ με την συνέλευση είναι ότι είναι too little – too late. Δεν προλαβαίνει η συνέλευση όσων χιλλιάδων ανθρώπων και αν βρίσκονται στο Σύνταγμα να καταστήσει ανενεργή την κοντοπρόθεσμη απειλή του χρέους. Επομένως το σοβαρότερο ερώτημα που θα έπρεπε να απασχολεί οποιαδήποτε συνέλευση αυτή τη στιγμή, είτε λέγεται Βουλή είτε Πλατεία, είναι εάν χρειαζόμαστε από τη διεθνή και ευρωπαϊκή κοινότητα ένα σωσίβιο ή δεν το χρειαζόμαστε. Εάν το χρειαζόμαστε τότε η συζήτηση είναι απλά ποιος από εμάς μπορεί να διαπραγματευτεί ένα καλύτερο “σωσίβιο” και όχι εάν θα το δεχτούμε ή όχι. Beggars can’t be choosers.

Επομένως το πρόβλημα της συνέλευσης δεν είναι ότι δεν έχει όραμα ή ιδέες αλλά ότι δεν έχει ούτε την νομιμοποίηση ούτε τα μέσα για να πάρει τις αποφάσεις που χρειάζεται να παρθούν σήμερα αντί για αύριο.

Αλλά παρ’όλο αυτό αξίζει να δωθεί ζωή σε αυτό το πράγμα και κατεύθυνση μακριά από την Σπίθα και τους λοιπούς ηλίθιους που την περιτρυγυρίζουν γιατί εάν πετύχει να αρθρώσει υπεύθυνο λόγο και να αναλάβει υπεύθυνη δράση (όχι ντου στην Βουλή κ.λπ. πίπες) τότε η αξία θα είναι ανεκτίμητη για το πολιτικό μέλλον της χώρας.

maximize the unmeasurable?

Όταν συζητάμε για κοινωνικά θέματα πολλές φορές οι διαφωνίες μπορεί να οφείλονται σε διαφορετική ηθική σκοπιά, αλλά άλλες φορές, με φίλους μου για παράδειγμα, ενώ η ηθική σκοπιά μπορεί να η ίδια προκύπτουν σημαντικές διαφωνίες. Συχνά το πρόβλημα αναφέρεται από αυτούς με τους οποίους διαφωνώ ως μια εμμονή δική μου να μετράω τα πάντα με βάση το οικονομικό όφελος. Βεβαίως οι φίλοι υπερβάλλουν, αφού γνωρίζουν καλά ότι πολλά πράγματα δεν τα μετράω με βάση το οικονομικό όφελος, όπως π.χ. η προσωπική μου ηθική ή τα συναισθήματα που όπως οι περισσότεροι έτσι έχω και εγώ.

Αλλά δεν είναι εντελώς ανακριβής η παρατήρηση τους απλώς συμβαίνει ότι η αιτία των διαφωνιών είναι βαθύτερη και προέρχεται από μια παρανόηση. Απ’ότι έχω καταλάβει η κατηγορία εκπέμπεται όταν συζητάμε για τις διάφορες μορφές πολιτικής και κοινωνικής οργάνωσης και έχει πάντα να κάνει με ένα πρόβλημα μεγιστοποίησης. Κατηγορούμαι λοιπόν ότι προτιμώ να μεγιστοποιηθεί ο πλούτος της κοινωνίας εις βάρος άλλων αξιών, όπως η ευδαιμονία, η αξιοπρέπεια ή ξέρω’γω τι άλλο. Το ζήτημα όμως δεν είναι ηθικό, διότι τότε θα ήταν εύκολα κατανοητή μια διαφωνία π.χ. αν εγώ υποστήριζα ότι είναι καλό να μεγιστοποιηθεί ο πλούτος ακόμα και με τρόπους που οι συνομιλητές μου θεωρούν ανήθικους. Το ζήτημα είναι λοιπόν σε αυτές τις περιπτώσεις πρακτικό και αφορά την υποτιθέμενη σύγκρουση μεταξύ της μεγιστοποίησης μιας αξίας εις βάρος μιας άλλης.

Πριν προχωρήσουμε θα πρέπει να σκεφτούμε για αρχή τι είναι αυτό που μεγιστοποιούμε. Εγώ λένε θέλω να μεγιστοποιηθεί ο πλούτος. Τι είναι ο πλούτος; Είναι αντικειμενικό μέγεθος; Εγώ πιστεύω πως όχι. One man’s trash is another man’s treasure. Οπότε πως θα το μετρήσουμε για να το μεγιστοποιήσουμε; Μήπως λοιπόν το πρόβλημα μου είναι ότι πάω να κάνω κάτι αδύνατο; Δεν έχω ακούσει ακόμα αυτή την αντίρρηση από συνομιλητή μου αλλά σε περίπτωση που την άκουγα θα απαντούσα το παρακάτω:

Το μόνο που κάνει αντικειμενική αξία τον πλούτο είναι ότι ανταλλάσσεται μεταξύ των ανθρώπων με τρόπο παρατηρήσιμο και μετρήσιμο. Είναι ακριβώς οι συναλλαγές που επιτρέπουν την “μέτρηση” του πλούτου και συνεπώς δίνουν ένα νόημα στην φράση “μεγιστοποίηση του πλούτου”. Εφόσον υπάρχουν αρκετές συναλλαγές μπορούμε να σχηματίσουμε μια ιδέα για τις διάφορες σχετικές τιμές των αγαθών αναμεταξύ τους, συμπεριλαμβανομένων και των διάφορων μορφών χρήματος (που και αυτές αγαθά είναι). Οι τιμές, παρ’ότι μεταβάλλονται, είναι όσο αντικειμενικές χρειάζεται για να τις ταυτίσουμε τα αθροίσματα τους με την έννοια του πλούτου. Έτσι ξέρουμε για παράδειγμα ότι όταν συναρμολογείται ένα αυτοκίνητο παράγεται αξία, διότι η τιμή του προϊόντος είναι μεγαλύτερη από το άθροισμα των τιμών των συστατικών στοιχείων. Έτσι ξέρουμε και ότι παράγεται αξία όταν ένα σαράβαλο γίνει ανταλλακτικά, διότι η τιμή των ανταλλακτικών είναι μεγαλύτερη από την τιμή του αυτοκινήτου. Όσο γίνονται τέτοιες συναλλαγές έχουμε βάσιμες ελπίδες ότι παράγεται αξία και ο πλούτος αυξάνεται. Μέχρι όμως να δούμε τέτοιες υποκειμενικές αξίες να ανταλλάσσονται με τρόπο μετρήσιμο δεν μπορούμε να αποδώσουμε σε αυτές κάποιο μέγεθος ούτε φυσικά να τις μεγιστοποιήσουμε.

Μπορούν να υπάρχουν μετρήσιμες αντικειμενικές αξίες που δεν ανταλλάσσονται; Εάν ναι, τότε η αξία τους δεν μπορεί παρά να είναι είτε άπειρη είτε μηδέν, ανάλογα με το αν αξίζει περισσότερο η διατήρηση τους από την καταστροφή τους.

Σίγουρα, αλλά σε αυτές τις περιπτώσεις πως μετριώνται; μπορούν να αυξηθούν ή να μειωθούν και, αν όχι μέσω της ανταλλαγής, με ποιόν τρόπο; Θυμηθείτε ότι δεν μιλάμε για ποσότητες αλλά για αξίες, όχι για προσφορά αλλά για ζήτηση, δύο πράγματα με αντίστροφα ανάλογη σχέση.

Διάφορα παραδείγματα που μου έρχονται στο μυαλό είναι

Όμως συμβαίνει και το εξής περίεργο: όταν κάποιος προσπαθεί να ορίσει με αντικειμενικό τρόπο μια αξία πολλές φορές άθελα του το κάνει με αναφορές σε πράγματα που ανταλλάσσονται. Και τότε μπορούμε να υπάγουμε αυτή την αξία κάτω από την έννοια του πλούτου και να της αποδώσουμε μια τιμή. Εάν Ακόμα και η ανθρώπινη ζωή, κάνει να μοιάζει περισσότερο με αυτό που
αποκαλούμε πλούτο. Τελικά καταλήγει ότι όσον αφορά την μέτρηση και την
μεγιστοποίηση, πλούτος και well being είναι το ένα και το αυτό.
Διαφέρουν μόνο όταν αναφέρονται σε πράγματα μη μετρήσιμα. Ένα
παράδειγμα:

Η ανθρώπινη αξιοπρέπεια, συχνά αναφερόμενο στοιχείο του well being,
δεν ανταλλάσεται. Δεν μπορώ να σου δώσω λίγη από την αξιοπρέπεια μου
και να μου δώσεις εσύ λίγη από την δική σου ηρεμία της ψυχής, ή
τουλάχιστον δεν έχουμε παρατηρήσει ποτέ να συμβαίνει κάτι τέτοιο. Εάν
ωστόσο φανταστείς ότι δίνεις σε κάποιον well being, π.χ. κάνοντας τον
πιο αξιοπρεπή, και το ορίσεις με κάποιον μετρήσιμο τρόπο τότε αυτή η
(συν)αλλαγή που θα φαντάζεσαι να επιφέρεις σε αυτόν θα μπορεί κάλλιστα
να θεωρηθεί και αλλαγή πλούτου.

Κολλάει συχνά ο κόσμος ότι ο πλούτος μετριέται με χρήμα, ενώ ως
γνωστόν money can’t buy love. Όμως to the extent that we don’t know
how to buy love (δηλαδή πως να αλλάξουμε τον κόσμο προς αυτή την
κατεύθυνση) we actually have no idea how to increase the amount of
people in love. Και αν ένα στοιχείο του well being γνωρίζουμε ακριβώς
πως θα το αυξήσουμε τότε αυτό είναι και ένα στοιχείο πλούτου γιατί
γνωρίζουμε με ποιό “τίμημα” μπορεί να “αγοραστεί”.

Often one hears criticism of work places where employees practice long working hours without overtime. The rationale is that long work hours in themselves always mean profit to the employer, so unless the extra profit is shared with the employee (bonus, overtime, etc.) the employee would probably be better of without the long hours. And I agree 100% that in situations where your work is controlled by your employer you are better of sticking to the terms of your employment contract and not giving away hours of work for free without satisfactory compensation. But this begs the question of what “satisfactory compensation” is.

First “satisfactory” depends on your skill and experience relative to other employees. But let’s say for a minute that all employees in a profession are equivalent. Then, if we assume a constant supply of these same employees who are all getting payed a “satisfactory” wage then the employers can compete succesfully by making their employees more productive, ie. by getting them to produce more per hour than what they cost per hour. Usually this cannot be done by adding more hours on a workday, so indeed in this scenario the long working hour mentality is off the mark.

Another way to compete is to be more flexible than your competitors. This means both responding to client’s volatile demands but it also means being first to respond to changes in the labor market. But what if the supply of available employees changes, say universities produce double the amount of professionals this year than they produced last year? Then the employer can gain a competitive edge by using the opportunity to pay less for an equivalent employee-hour, assuming that new employees competition for work positions will lead them to accept lower wages. But if for some reason the official wage cannot be lowered (either because of market rigidities or because of minimum wage laws) then the employer could demand unpayed overtime instead which implicitly lowers the real hourly wage. For employers the flexibility is necessay

In practice however the employee doesn’t always know what his bargaining power is, ie. the minimum reduction (or maximum increase) of his salary, especially if he’s been working in the same place for a long time. But that is the price to pay for stability. Just as the employer will lose money or go out of business if he does not know what to pay for labor, so will the employee be unemployed or “exploited” if he doesn’t know what to ask for. But working long hours in itself is not always a sign of exploitation or the silly work-place mentalities. Long hours can also result from oversaturated demand for labor coupled with an inflexible labor market. Is this the case in your profession?

A perspective from India, which to me is probably the most reasonable thing I have read on the Charlie Hebdo attacks:

http://www.telegraphindia.com/1150118/jsp/opinion/story_8908.jsp#.VL4YXo_8LqD

I might add that it is not necessarily bigoted (but often may be) to assign some responsibility for fundamentalist abuses to the moderate majority whom the radicals claim to defend. If someone goes out and kills in my name, I may not be responsible for the act, but I am kind of responsible for denouncing that fundamentalist motive which is centered on me as soon as possible (preferably before the motive leads to violent action). If one finds himself passively in a conflict it is simply not possible to remain passive about it. Even declaring neutrality is an active stance. To ask that moderate Muslim communities take an active stance against or at least separating themself from the fundamentalist abuses that happen in their name is not in itself bigoted, it is perfectly normal and would be required of any person.

git: shallow clone and sparse checkout of submodule

If you have a huge repository (in size and in history) and want to add a subfolder to your project as a submodule you can follow the code in this example to save time and space using git’s shallow clone and sparse checkout feature. It is a bit more complicated in this example because I assume that you want your submodule to track a non-default branch, called `mybranch`, instead of the `master` branch. Also I assume you already have a checkout of  our huge repository somewhere, so it can be used as an argument to the --reference option of git clone. Things could probably get a lot simpler when using the default branch and just using a normal clone (with no reference  repo). After following the commands in these examples you can use `git submodule update` and `git submodule update –remote` as normal.

tmux: synchronize in all windows (not really)

A neat feature in tmux(1) is the :setw synchronize-panes option, which causes tmux to repeat in all panes the keys typed in the window. But if you’re not using panes and have a bunch of windows which you want to send the same keystrokes to you’re out of luck. Fortunately it’s easy to simulate a synchronize-windows option:

Quick’n’dirty ELB healthcheck

Sometimes you have a service you are running on multiple instances in an AWS autoscaling group, and you want to monitor the application health with ELB so that if an instance become unhealthy your autoscaling group will launch a new instance. But if the service doesn’t expose any ports, such as a web server would, ELB health-checks cannot work because they rely on connecting via TCP or HTTP to monitor the health of it’s instances. So? If you can check the health of your service with some local command or script then all you need is the files in this gist and you’re off!

The idea is to use (or abuse) systemd‘s socket activation feature to run a script whenever ELB asks for a certain URL on a certain port. Ideally this port should not be accessible from the public internet or really anywhere else than where ELB will be connecting from. But this is outside the scope of this document (you are running your instances in a VPC right?).

So, assuming /path/to/somecommand is a an executable that will succeed or fail depending on the health of your service, you need the following script to respond to ELB health checks:

Then you configure the status.socket and status@.service unit files (usually in /usr/lib/systemd/system/). And then prof.. ehm test it first!.

This is perhaps just a hack, but it works OK in many cases.