translating: more about records
[lambda.git] / week3.mdwn
1 [[!toc]]
2
3 ##More on evaluation strategies##
4
5 Here are notes on [[evaluation order]] that make the choice of which
6 lambda to reduce next the selection of a route through a network of
7 links.
8
9
10 ##Computing the length of a list##
11
12 How could we compute the length of a list? Without worrying yet about what lambda-calculus implementation we're using for the list, the basic idea would be to define this recursively:
13
14 >       the empty list has length 0
15
16 >       any non-empty list has length 1 + (the length of its tail)
17
18 In OCaml, you'd define that like this:
19
20         let rec get_length = fun lst ->
21                 if lst == [] then 0 else 1 + get_length (tail lst)
22         in ... (* here you go on to use the function "get_length" *)
23
24 In Scheme you'd define it like this:
25
26         (letrec [(get_length
27                                 (lambda (lst) (if (null? lst) 0 [+ 1 (get_length (cdr lst))] )) )]
28                 ... ; here you go on to use the function "get_length"
29         )
30
31 Some comments on this:
32
33 1. `null?` is Scheme's way of saying `isempty`. That is, `(null? lst)` returns true (which Scheme writes as `#t`) iff `lst` is the empty list (which Scheme writes as `'()` or `(list)`).
34
35 2. `cdr` is function that gets the tail of a Scheme list. (By definition, it's the function for getting the second member of an ordered pair. It just turns out to return the tail of a list because of the particular way Scheme implements lists.)
36
37 3.      I use `get_length` instead of the convention we've been following so far of hyphenated names, as in `make-list`, because we're discussing OCaml code here, too, and OCaml doesn't permit the hyphenated variable names. OCaml requires variables to always start with a lower-case letter (or `_`), and then continue with only letters, numbers, `_` or `'`. Most other programming languages are similar. Scheme is very relaxed, and permits you to use `-`, `?`, `/`, and all sorts of other crazy characters in your variable names.
38
39 4.      I alternate between `[ ]`s and `( )`s in the Scheme code just to make it more readable. These have no syntactic difference.
40
41
42 The main question for us to dwell on here is: What are the `let rec` in the OCaml code and the `letrec` in the Scheme code?
43
44 Answer: These work like the `let` expressions we've already seen, except that they let you use the variable `get_length` *inside* the body of the function being bound to it---with the understanding that it will there refer to the same function that you're then in the process of binding to `get_length`. So our recursively-defined function works the way we'd expect it to. In OCaml:
45
46         let rec get_length = fun lst ->
47                 if lst == [] then 0 else 1 + get_length (tail lst)
48         in get_length [20; 30]
49         (* this evaluates to 2 *)
50
51 In Scheme:
52
53         (letrec [(get_length 
54                                 (lambda (lst) (if (null? lst) 0 [+ 1 (get_length (cdr lst))] )) )]
55                         (get_length (list 20 30)))
56         ; this evaluates to 2
57         
58 If you instead use an ordinary `let` (or `let*`), here's what would happen, in OCaml:
59
60         let get_length = fun lst ->
61                 if lst == [] then 0 else 1 + get_length (tail lst)
62         in get_length [20; 30]
63         (* fails with error "Unbound value length" *)
64
65 Here's Scheme:
66
67         (let* [(get_length 
68                                 (lambda (lst) (if (null? lst) 0 [+ 1 (get_length (cdr lst))] )) )]
69                         (get_length (list 20 30)))
70         ; fails with error "reference to undefined identifier: get_length"
71
72 Why? Because we said that constructions of this form:
73
74         let get_length = A
75                 in B
76
77 really were just another way of saying:
78
79         (\get_length. B) A
80
81 and so the occurrences of `get_length` in A *aren't bound by the `\get_length` that wraps B*. Those occurrences are free.
82
83 We can verify this by wrapping the whole expression in a more outer binding of `get_length` to some other function, say the constant function from any list to the integer 99:
84
85         let get_length = fun lst -> 99
86         in let get_length = fun lst ->
87                         if lst == [] then 0 else 1 + get_length (tail lst)
88         in get_length [20; 30]
89         (* evaluates to 1 + 99 *)
90
91 Here the use of `get_length` in `1 + get_length (tail lst)` can clearly be seen to be bound by the outermost `let`.
92
93 And indeed, if you tried to define `get_length` in the lambda calculus, how would you do it?
94
95         \lst. (isempty lst) zero (add one (get_length (extract-tail lst)))
96
97 We've defined all of `isempty`, `zero`, `add`, `one`, and `extract-tail` in earlier discussion. But what about `get_length`? That's not yet defined! In fact, that's the very formula we're trying here to specify.
98
99 What we really want to do is something like this:
100
101         \lst. (isempty lst) zero (add one (... (extract-tail lst)))
102
103 where this very same formula occupies the `...` position:
104
105         \lst. (isempty lst) zero (add one (
106                 \lst. (isempty lst) zero (add one (... (extract-tail lst)))
107                         (extract-tail lst)))
108
109 but as you can see, we'd still have to plug the formula back into itself again, and again, and again... No dice.
110
111 [At this point, some of you will recall the discussion in the first
112 class concerning the conception of functions as sets of ordered pairs.
113 The problem, as you will recall, was that in the untyped lambda
114 calculus, we wanted a function to be capable of taking itself as an
115 argument.  For instance, we wanted to be able to apply the identity
116 function to itself.  And since the identity function always returns
117 its argument unchanged, the value it should return in that case is
118 itself:
119
120     (\x.x)(\x.x) ~~> (\x.x)
121
122 If we conceive of a function as a set of ordered pairs, we would start
123 off like this:
124
125     1 -> 1
126     2 -> 2
127     3 -> 3
128     ...
129     [1 -> 1, 2 -> 2, 3 -> 3, ..., [1 -> 1, 2 -> 2, 3 -> 3, ..., 
130
131 Eventually, we would get to the point where we want to say what the
132 identity function itself gets mapped to.  But in order to say that, we
133 need to write down the identity function in the argument position as a
134 set of ordered pairs.  The need to insert a copy of the entire
135 function definition inside of a copy of the entire function definition
136 inside of... is the same problem as the need to insert a complete
137 graph of the identity function inside of the graph for the identity function.]
138
139 So how could we do it? And how do OCaml and Scheme manage to do it, with their `let rec` and `letrec`?
140
141 1.      OCaml and Scheme do it using a trick. Well, not a trick. Actually an impressive, conceptually deep technique, which we haven't yet developed. Since we want to build up all the techniques we're using by hand, then, we shouldn't permit ourselves to rely on `let rec` or `letrec` until we thoroughly understand what's going on under the hood.
142
143 2.      If you tried this in Scheme:
144
145                 (define get_length 
146                                 (lambda (lst) (if (null? lst) 0 [+ 1 (get_length (cdr lst))] )) )
147                 
148                 (get_length (list 20 30))
149
150         You'd find that it works! This is because `define` in Scheme is really shorthand for `letrec`, not for plain `let` or `let*`. So we should regard this as cheating, too.
151
152 3.      In fact, it *is* possible to define the `get_length` function in the lambda calculus despite these obstacles. This depends on using the "version 3" implementation of lists, and exploiting its internal structure: that it takes a function and a base value and returns the result of folding that function over the list, with that base value. So we could use this as a definition of `get_length`:
153
154                 \lst. lst (\x sofar. successor sofar) zero
155
156         What's happening here? We start with the value zero, then we apply the function `\x sofar. successor sofar` to the two arguments <code>x<sub>n</sub></code> and `zero`, where <code>x<sub>n</sub></code> is the last element of the list. This gives us `successor zero`, or `one`. That's the value we've accumuluted "so far." Then we go apply the function `\x sofar. successor sofar` to the two arguments <code>x<sub>n-1</sub></code> and the value `one` that we've accumulated "so far." This gives us `two`. We continue until we get to the start of the list. The value we've then built up "so far" will be the length of the list.
157
158 We can use similar techniques to define many recursive operations on lists and numbers. The reason we can do this is that our "version 3," fold-based implementation of lists, and Church's implementations of numbers, have a internal structure that *mirrors* the common recursive operations we'd use lists and numbers for.
159
160 As we said before, it does take some ingenuity to define functions like `extract-tail` or `predecessor` for these implementations. However it can be done. (And it's not *that* difficult.) Given those functions, we can go on to define other functions like numeric equality, subtraction, and so on, just by exploiting the structure already present in our implementations of lists and numbers.
161
162 With sufficient ingenuity, a great many functions can be defined in the same way. For example, the factorial function is straightforward. The function which returns the nth term in the Fibonacci series is a bit more difficult, but also achievable.
163
164 ##However...##
165
166 Some computable functions are just not definable in this way. We can't, for example, define a function that tells us, for whatever function `f` we supply it, what is the smallest integer `x` where `f x` is `true`.
167
168 Neither do the resources we've so far developed suffice to define the 
169 [[!wikipedia Ackermann function]]:
170
171         A(m,n) =
172                 | when m == 0 -> n + 1
173                 | else when n == 0 -> A(m-1,1)
174                 | else -> A(m-1, A(m,n-1))
175
176         A(0,y) = y+1
177         A(1,y) = 2+(y+3) - 3
178         A(2,y) = 2(y+3) - 3
179         A(3,y) = 2^(y+3) - 3
180         A(4,y) = 2^(2^(2^...2)) [where there are y+3 2s] - 3
181         ...
182
183 Simpler functions always *could* be defined using the resources we've so far developed, although those definitions won't always be very efficient or easily intelligible.
184
185 But functions like the Ackermann function require us to develop a more general technique for doing recursion---and having developed it, it will often be easier to use it even in the cases where, in principle, we didn't have to.
186
187 ##How to do recursion with lower-case omega##
188
189 Recall our initial, abortive attempt above to define the `get_length` function in the lambda calculus. We said "What we really want to do is something like this:
190
191         \lst. (isempty lst) zero (add one (... (extract-tail lst)))
192
193 where this very same formula occupies the `...` position."
194
195 We are not going to exactly that, at least not yet. But we are going to do something close to it.
196
197 Consider a formula of the following form (don't worry yet about exactly how we'll fill the `...`s):
198
199         \h \lst. (isempty lst) zero (add one (... (extract-tail lst)))
200
201 Call that formula `H`. Now what would happen if we applied `H` to itself? Then we'd get back:
202
203         \lst. (isempty lst) zero (add one (... (extract-tail lst)))
204
205 where any occurrences of `h` inside the `...` were substituted with `H`. Call this `F`. `F` looks pretty close to what we're after: a function that takes a list and returns zero if it's empty, and so on. And `F` is the result of applying `H` to itself. But now inside `F`, the occurrences of `h` are substituted with the very formula `H` we started with. So if we want to get `F` again, all we have to do is apply `h` to itself---since as we said, the self-application of `H` is how we created `F` in the first place.
206
207 So, the way `F` should be completed is:
208
209         \lst. (isempty lst) zero (add one ((h h) (extract-tail lst)))
210
211 and our original `H` is:
212
213         \h \lst. (isempty lst) zero (add one ((h h) (extract-tail lst)))
214
215 The self-application of `H` will give us `F` with `H` substituted in for its free variable `h`.
216
217 Instead of writing out a long formula twice, we could write:
218
219         (\x. x x) LONG-FORMULA
220
221 and the initial `(\x. x x)` is just what we earlier called the <code>&omega;</code> combinator (lower-case omega, not the non-terminating <code>&Omega;</code>). So the self-application of `H` can be written:
222
223 <pre><code>&omega; (\h \lst. (isempty lst) zero (add one ((h h) (extract-tail lst))))
224 </code></pre>
225
226 and this will indeed implement the recursive function we couldn't earlier figure out how to define.
227
228 In broad brush-strokes, `H` is half of the `get_length` function we're seeking, and `H` has the form:
229
230         \h other-arguments. ... (h h) ...
231
232 We get the whole `get_length` function by applying `H` to itself. Then `h` is replaced by the half `H`, and when we later apply `h` to itself, we re-create the whole `get_length` again.
233
234 ##Neat! Can I make it easier to use?##
235
236 Suppose you wanted to wrap this up in a pretty interface, so that the programmer didn't need to write `(h h)` but could just write `g` for some function `g`. How could you do it?
237
238 Now the `F`-like expression we'd be aiming for---call it `F*`---would look like this:
239
240         \lst. (isempty lst) zero (add one (g (extract-tail lst)))
241
242 or, abbreviating:
243
244         \lst. ...g...
245
246 Here we have just a single `g` instead of `(h h)`. We'd want `F*` to be the result of self-applying some `H*`, and then binding to `g` that very self-application of `H*`. We'd get that if `H*` had the form:
247
248         \h. (\g lst. ...g...) (h h)
249
250 The self-application of `H*` would be:
251
252         (\h. (\g lst. ...g...) (h h)) (\h. (\g lst. ...g...) (h h))
253
254 or:
255
256         (\f. (\h. f (h h)) (\h. f (h h))) (\g lst. ...g...)
257
258 The left-hand side of this is known as **the Y-combinator** and so this could be written more compactly as:
259
260         Y (\g lst. ...g...)
261
262 or, replacing the abbreviated bits:
263
264         Y (\g lst. (isempty lst) zero (add one (g (extract-tail lst))))
265
266 So this is another way to implement the recursive function we couldn't earlier figure out how to define.
267
268
269 ##Generalizing##
270
271 Let's step back and fill in some theory to help us understand why these tricks work.
272
273 In general, we call a **fixed point** of a function f any value *x* such that f <em>x</em> is equivalent to *x*. For example, what is a fixed point of the function from natural numbers to their squares? What is a fixed point of the successor function?
274
275 In the lambda calculus, we say a fixed point of an expression `f` is any formula `X` such that:
276
277         X <~~> f X
278
279 What is a fixed point of the identity combinator I?
280
281 What is a fixed point of the false combinator, KI?
282
283 It's a theorem of the lambda calculus that every formula has a fixed point. In fact, it will have infinitely many, non-equivalent fixed points. And we don't just know that they exist: for any given formula, we can name many of them.
284
285 Yes, even the formula that you're using the define the successor function will have a fixed point. Isn't that weird? Think about how it might be true.
286
287 Well, you might think, only some of the formulas that we might give to the `successor` as arguments would really represent numbers. If we said something like:
288
289         successor make-pair
290
291 who knows what we'd get back? Perhaps there's some non-number-representing formula such that when we feed it to `successor` as an argument, we get the same formula back.
292
293 Yes! That's exactly right. And which formula this is will depend on the particular way you've implemented the successor function.
294
295 Moreover, the recipes that enable us to name fixed points for any given formula aren't *guaranteed* to give us *terminating* fixed points. They might give us formulas X such that neither `X` nor `f X` have normal forms. (Indeed, what they give us for the square function isn't any of the Church numerals, but is rather an expression with no normal form.) However, if we take care we can ensure that we *do* get terminating fixed points. And this gives us a principled, fully general strategy for doing recursion. It lets us define even functions like the Ackermann function, which were until now out of our reach. It would also let us define arithmetic and list functions on the "version 1" and "version 2" implementations, where it wasn't always clear how to force the computation to "keep going."
296
297 OK, so how do we make use of this?
298
299 Recall again our initial, abortive attempt above to define the `get_length` function in the lambda calculus. We said "What we really want to do is something like this:
300
301         \lst. (isempty lst) zero (add one (... (extract-tail lst)))
302
303 where this very same formula occupies the `...` position."
304
305 If we could somehow get ahold of this very formula, as an additional argument, then we could take the argument and plug it into the `...` position. Something like this:
306
307         \self (\lst. (isempty lst) zero (add one (self (extract-tail lst))) )
308
309 This is an abstract of the form:
310
311         \self. BODY
312
313 where `BODY` is the expression:
314
315         \lst. (isempty lst) zero (add one (self (extract-tail lst)))
316
317 containing an occurrence of `self`.
318
319 Now consider what would be a fixed point of our expression `\self. BODY`? That would be some expression `X` such that:
320
321         X <~~> (\self.BODY) X
322
323 Beta-reducing the right-hand side, we get:
324
325         X <~~> BODY [self := X]
326
327 Think about what this says. It says if you substitute `X` for `self` in our formula BODY:
328
329         \lst. (isempty lst) zero (add one (X (extract-tail lst)))
330
331 what you get is "equivalent" to (that is, convertible with) X itself. That is, the `X` inside the above expression is equivalent to the whole expression. So the expression *does*, in a sense, contain itself!
332
333 Let's go over that again. If we had a fixed point `X` for our expression `\self. ...self...`, then by the definition of a fixed-point, this has to be true:
334
335         X <~~> (\self. ...self...) X
336
337 but beta-reducing the right-hand side, we get something of the form:
338
339         X <~~> ...X...
340
341 So on the right-hand side we have a complex expression, that contains some occurrences of whatever our fixed-point `X` is, and `X` is convertible with *that very complex, right-hand side expression.*
342
343 So we really *can* define `get_length` in the way we were initially attempting, in the bare lambda calculus, where Scheme and OCaml's souped-up `let rec` constructions aren't primitively available. (In fact, what we're doing here is the natural way to implement `let rec`.)
344
345 This all turns on having a way to generate a fixed-point for our "starting formula":
346
347         \self (\lst. (isempty lst) zero (add one (self (extract-tail lst))) )
348
349 Where do we get it?
350
351 Suppose we have some **fixed-point combinator** 
352 <code>&Psi;</code>. That is, some function that returns, for any expression `f` we give it as argument, a fixed point for `f`. In other words:
353
354 <pre><code>&Psi; f <~~> f (&Psi; f)</code></pre>
355
356 Then applying <code>&Psi;</code> to the "starting formula" displayed above would give us our fixed point `X` for the starting formula:
357
358 <pre><code>&Psi; (\self (\lst. (isempty lst) zero (add one (self (extract-tail lst))) ))</code></pre>
359
360 And this is the fully general strategy for 
361 defining recursive functions in the lambda calculus. You begin with a "body formula":
362
363         ...self...
364
365 containing free occurrences of `self` that you treat as being equivalent to the body formula itself. In the case we're considering, that was:
366
367         \lst. (isempty lst) zero (add one (self (extract-tail lst)))
368
369 You bind the free occurrence of `self` as: `\self. BODY`. And then you generate a fixed point for this larger expression:
370
371 <pre><code>&Psi; (\self. BODY)</code></pre>
372
373 using some fixed-point combinator <code>&Psi;</code>.
374
375 Isn't that cool?
376
377 ##Okay, then give me a fixed-point combinator, already!##
378
379 Many fixed-point combinators have been discovered. (And some fixed-point combinators give us models for building infinitely many more, non-equivalent fixed-point combinators.)
380
381 Two of the simplest:
382
383 <pre><code>&Theta;&prime; &equiv; (\u f. f (\n. u u f n)) (\u f. f (\n. u u f n))
384 Y&prime; &equiv; \f. (\u. f (\n. u u n)) (\u. f (\n. u u n))</code></pre>
385
386 <code>&Theta;&prime;</code> has the advantage that <code>f (&Theta;&prime; f)</code> really *reduces to* <code>&Theta;&prime; f</code>. Whereas <code>f (Y&prime; f)</code> is only *convertible with* <code>Y&prime; f</code>; that is, there's a common formula they both reduce to. For most purposes, though, either will do.
387
388 You may notice that both of these formulas have eta-redexes inside them: why can't we simplify the two `\n. u u f n` inside <code>&Theta;&prime;</code> to just `u u f`? And similarly for <code>Y&prime;</code>?
389
390 Indeed you can, getting the simpler:
391
392 <pre><code>&Theta; &equiv; (\u f. f (u u f)) (\u f. f (u u f))
393 Y &equiv; \f. (\u. f (u u)) (\u. f (u u))</code></pre>
394
395 I stated the more complex formulas for the following reason: in a language whose evaluation order is *call-by-value*, the evaluation of <code>&Theta; (\self. BODY)</code> and `Y (\self. BODY)` will in general not terminate. But evaluation of the eta-unreduced primed versions will.
396
397 Of course, if you define your `\self. BODY` stupidly, your formula will never terminate. For example, it doesn't matter what fixed point combinator you use for <code>&Psi;</code> in:
398
399 <pre><code>&Psi; (\self. \n. self n)</code></pre>
400
401 When you try to evaluate the application of that to some argument `M`, it's going to try to give you back:
402
403         (\n. self n) M
404
405 where `self` is equivalent to the very formula `\n. self n` that contains it. So the evaluation will proceed:
406
407         (\n. self n) M ~~>
408         self M ~~>
409         (\n. self n) M ~~>
410         self M ~~>
411         ...
412
413 You've written an infinite loop!
414
415 However, when we evaluate the application of our:
416
417 <pre><code>&Psi; (\self (\lst. (isempty lst) zero (add one (self (extract-tail lst))) ))</code></pre>
418
419 to some list `L`, we're not going to go into an infinite evaluation loop of that sort. At each cycle, we're going to be evaluating the application of:
420
421         \lst. (isempty lst) zero (add one (self (extract-tail lst)))
422
423 to *the tail* of the list we were evaluating its application to at the previous stage. Assuming our lists are finite (and the implementations we're using don't permit otherwise), at some point one will get a list whose tail is empty, and then the evaluation of that formula to that tail will return `zero`. So the recursion eventually bottoms out in a base value.
424
425 ##Fixed-point Combinators Are a Bit Intoxicating##
426
427 ![tatoo](/y-combinator-fixed.jpg)
428
429 There's a tendency for people to say "Y-combinator" to refer to fixed-point combinators generally. We'll probably fall into that usage ourselves. Speaking correctly, though, the Y-combinator is only one of many fixed-point combinators.
430
431 I used <code>&Psi;</code> above to stand in for an arbitrary fixed-point combinator. I don't know of any broad conventions for this. But this seems a useful one.
432
433 As we said, there are many other fixed-point combinators as well. For example, Jan Willem Klop pointed out that if we define `L` to be:
434
435         \a b c d e f g h i j k l m n o p q s t u v w x y z r. (r (t h i s i s a f i x e d p o i n t c o m b i n a t o r))
436
437 then this is a fixed-point combinator:
438
439         L L L L L L L L L L L L L L L L L L L L L L L L L L
440
441
442 ##Watching Y in action##
443
444 For those of you who like to watch ultra slow-mo movies of bullets
445 piercing apples, here's a stepwise computation of the application of a
446 recursive function.  We'll use a function `sink`, which takes one
447 argument.  If the argument is boolean true (i.e., `\x y.x`), it
448 returns itself (a copy of `sink`); if the argument is boolean false
449 (`\x y. y`), it returns `I`.  That is, we want the following behavior:
450
451     sink false ~~> I
452     sink true false ~~> I
453     sink true true false ~~> I
454     sink true true true false ~~> I
455
456 So we make `sink = Y (\f b. b f I)`: 
457
458     1. sink false 
459     2. Y (\fb.bfI) false
460     3. (\f. (\h. f (h h)) (\h. f (h h))) (\fb.bfI) false
461     4. (\h. [\fb.bfI] (h h)) (\h. [\fb.bfI] (h h)) false
462     5. [\fb.bfI] ((\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))) false
463     6. (\b.b[(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))]I)  false
464     7. false [(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))] I
465              --------------------------------------------
466     8. I
467
468 So far so good.  The crucial thing to note is that as long as we
469 always reduce the outermost redex first, we never have to get around
470 to computing the underlined redex: because `false` ignores its first
471 argument, we can throw it away unreduced.
472
473 Now we try the next most complex example:
474
475     1. sink true false 
476     2. Y (\fb.bfI) true false
477     3. (\f. (\h. f (h h)) (\h. f (h h))) (\fb.bfI) true false
478     4. (\h. [\fb.bfI] (h h)) (\h. [\fb.bfI] (h h)) true false
479     5. [\fb.bfI] ((\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))) true false
480     6. (\b.b[(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))]I)  true false
481     7. true [(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))] I false
482     8. [(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))] false
483
484 We've now arrived at line (4) of the first computation, so the result
485 is again I.
486
487 You should be able to see that `sink` will consume as many `true`s as
488 we throw at it, then turn into the identity function after it
489 encounters the first `false`. 
490
491 The key to the recursion is that, thanks to Y, the definition of
492 `sink` contains within it the ability to fully regenerate itself as
493 many times as is necessary.  The key to *ending* the recursion is that
494 the behavior of `sink` is sensitive to the nature of the input: if the
495 input is the magic function `false`, the self-regeneration machinery
496 will be discarded, and the recursion will stop.
497
498 That's about as simple as recursion gets.
499
500 ##Base cases, and their lack##
501
502 As any functional programmer quickly learns, writing a recursive
503 function divides into two tasks: figuring out how to handle the
504 recursive case, and remembering to insert a base case.  The
505 interesting and enjoyable part is figuring out the recursive pattern,
506 but the base case cannot be ignored, since leaving out the base case
507 creates a program that runs forever.  For instance, consider computing
508 a factorial: `n!` is `n * (n-1) * (n-2) * ... * 1`.  The recursive
509 case says that the factorial of a number `n` is `n` times the
510 factorial of `n-1`.  But if we leave out the base case, we get
511
512     3! = 3 * 2! = 3 * 2 * 1! = 3 * 2 * 1 * 0! = 3 * 2 * 1 * 0 * -1! ...
513
514 That's why it's crucial to declare that 0! = 1, in which case the
515 recursive rule does not apply.  In our terms,
516
517     fac = Y (\fac n. iszero n 1 (fac (predecessor n)))
518
519 If `n` is 0, `fac` reduces to 1, without computing the recursive case.
520
521 There is a well-known problem in philosophy and natural language
522 semantics that has the flavor of a recursive function without a base
523 case: the truth-teller paradox (and related paradoxes).
524
525 (1)    This sentence is true.
526
527 If we assume that the complex demonstrative "this sentence" can refer
528 to (1), then the proposition expressed by (1) will be true just in
529 case the thing referred to by *this sentence* is true.  Thus (1) will
530 be true just in case (1) is true, and (1) is true just in case (1) is
531 true, and so on.  If (1) is true, then (1) is true; but if (1) is not
532 true, then (1) is not true.
533
534 Without pretending to give a serious analysis of the paradox, let's
535 assume that sentences can have for their meaning boolean functions
536 like the ones we have been working with here.  Then the sentence *John
537 is John* might denote the function `\x y. x`, our `true`.  
538
539 Then (1) denotes a function from whatever the referent of *this
540 sentence* is to a boolean.  So (1) denotes `\f. f true false`, where
541 the argument `f` is the referent of *this sentence*.  Of course, if
542 `f` is a boolean, `f true false <~~> f`, so for our purposes, we can
543 assume that (1) denotes the identity function `I`.
544
545 If we use (1) in a context in which *this sentence* refers to the
546 sentence in which the demonstrative occurs, then we must find a
547 meaning `m` such that `I m = I`.  But since in this context `m` is the
548 same as the meaning `I`, so we have `m = I m`.  In other words, `m` is
549 a fixed point for the denotation of the sentence (when used in the
550 appropriate context).
551
552 That means that in a context in which *this sentence* refers to the
553 sentence in which it occurs, the sentence denotes a fixed point for
554 the identity function.  Here's a fixed point for the identity
555 function:
556
557 <pre><code>Y I
558 (\f. (\h. f (h h)) (\h. f (h h))) I
559 (\h. I (h h)) (\h. I (h h)))
560 (\h. (h h)) (\h. (h h)))
561 &omega; &omega;
562 &Omega
563 </code></pre>
564
565 Oh.  Well!  That feels right.  The meaning of *This sentence is true*
566 in a context in which *this sentence* refers to the sentence in which
567 it occurs is <code>&Omega;</code>, our prototypical infinite loop...
568
569 What about the liar paradox?
570
571 (2)  This sentence is false.
572
573 Used in a context in which *this sentence* refers to the utterance of
574 (2) in which it occurs, (2) will denote a fixed point for `\f.neg f`,
575 or `\f l r. f r l`, which is the `C` combinator.  So in such a
576 context, (2) might denote
577
578      Y C
579      (\f. (\h. f (h h)) (\h. f (h h))) I
580      (\h. C (h h)) (\h. C (h h))) 
581      C ((\h. C (h h)) (\h. C (h h)))
582      C (C ((\h. C (h h))(\h. C (h h))))
583      C (C (C ((\h. C (h h))(\h. C (h h)))))
584      ...
585
586 And infinite sequence of `C`s, each one negating the remainder of the
587 sequence.  Yep, that feels like a reasonable representation of the
588 liar paradox.
589
590 See Barwise and Etchemendy's 1987 OUP book, [The Liar: an essay on
591 truth and circularity](http://tinyurl.com/2db62bk) for an approach
592 that is similar, but expressed in terms of non-well-founded sets
593 rather than recursive functions.
594
595 ##However...##
596
597 You should be cautious about feeling too comfortable with
598 these results.  Thinking again of the truth-teller paradox, yes,
599 <code>&Omega;</code> is *a* fixed point for `I`, and perhaps it has
600 some a privileged status among all the fixed points for `I`, being the
601 one delivered by Y and all (though it is not obvious why Y should have
602 any special status).
603
604 But one could ask: look, literally every formula is a fixed point for
605 `I`, since
606
607     X <~~> I X
608
609 for any choice of X whatsoever.
610
611 So the Y combinator is only guaranteed to give us one fixed point out
612 of infinitely many---and not always the intuitively most useful
613 one. (For instance, the squaring function has zero as a fixed point,
614 since 0 * 0 = 0, and 1 as a fixed point, since 1 * 1 = 1, but `Y
615 (\x. mul x x)` doesn't give us 0 or 1.) So with respect to the
616 truth-teller paradox, why in the reasoning we've
617 just gone through should we be reaching for just this fixed point at
618 just this juncture?
619
620 One obstacle to thinking this through is the fact that a sentence
621 normally has only two truth values.  We might consider instead a noun
622 phrase such as 
623
624 (3)  the entity that this noun phrase refers to
625
626 The reference of (3) depends on the reference of the embedded noun
627 phrase *this noun phrase*.  It's easy to see that any object is a
628 fixed point for this referential function: if this pen cap is the
629 referent of *this noun phrase*, then it is the referent of (3), and so
630 for any object.
631
632 The chameleon nature of (3), by the way (a description that is equally
633 good at describing any object), makes it particularly well suited as a
634 gloss on pronouns such as *it*.  In the system of 
635 [Jacobson 1999](http://www.springerlink.com/content/j706674r4w217jj5/),
636 pronouns denote (you guessed it!) identity functions...
637
638 Ultimately, in the context of this course, these paradoxes are more
639 useful as a way of gaining leverage on the concepts of fixed points
640 and recursion, rather than the other way around.