1 [[!toc]]
3 #Recursion: fixed points in the lambda calculus##
5 Sometimes when you type in a web search, Google will suggest
6 alternatives.  For instance, if you type in "Lingusitics", it will ask
7 you "Did you mean Linguistics?".  But the engineers at Google have
8 added some playfulness to the system.  For instance, if you search for
9 "anagram", Google asks you "Did you mean: nag a ram?"  And if you
12 ##What is the "rec" part of "letrec" doing?##
14 How could we compute the length of a list? Without worrying yet about what lambda-calculus implementation we're using for the list, the basic idea would be to define this recursively:
16 >       the empty list has length 0
18 >       any non-empty list has length 1 + (the length of its tail)
20 In OCaml, you'd define that like this:
22         let rec length = fun lst ->
23                 if lst == [] then 0 else 1 + length (tail lst)
24         in ... (* here you go on to use the function "length" *)
26 In Scheme you'd define it like this:
28         (letrec [(length
29                                 (lambda (lst) (if (null? lst) 0 [+ 1 (length (cdr lst))] )) )]
30                 ... ; here you go on to use the function "length"
31         )
35 1. `null?` is Scheme's way of saying `isempty`. That is, `(null? lst)` returns true (which Scheme writes as `#t`) iff `lst` is the empty list (which Scheme writes as `'()` or `(list)`).
37 2. `cdr` is function that gets the tail of a Scheme list. (By definition, it's the function for getting the second member of an ordered pair. It just turns out to return the tail of a list because of the particular way Scheme implements lists.)
39 3.      I use `length` instead of the convention we've been following so far of hyphenated names, as in `make-list`, because we're discussing OCaml code here, too, and OCaml doesn't permit the hyphenated variable names. OCaml requires variables to always start with a lower-case letter (or `_`), and then continue with only letters, numbers, `_` or `'`. Most other programming languages are similar. Scheme is very relaxed, and permits you to use `-`, `?`, `/`, and all sorts of other crazy characters in your variable names.
41 4.      I alternate between `[ ]`s and `( )`s in the Scheme code just to make it more readable. These have no syntactic difference.
44 The main question for us to dwell on here is: What are the `let rec` in the OCaml code and the `letrec` in the Scheme code?
46 Answer: These work like the `let` expressions we've already seen, except that they let you use the variable `length` *inside* the body of the function being bound to it---with the understanding that it will there refer to the same function that you're then in the process of binding to `length`. So our recursively-defined function works the way we'd expect it to. In OCaml:
48         let rec length = fun lst ->
49                 if lst == [] then 0 else 1 + length (tail lst)
50         in length [20; 30]
51         (* this evaluates to 2 *)
53 In Scheme:
55         (letrec [(length
56                                 (lambda (lst) (if (null? lst) 0 [+ 1 (length (cdr lst))] )) )]
57                         (length (list 20 30)))
58         ; this evaluates to 2
60 If you instead use an ordinary `let` (or `let*`), here's what would happen, in OCaml:
62         let length = fun lst ->
63                 if lst == [] then 0 else 1 + length (tail lst)
64         in length [20; 30]
65         (* fails with error "Unbound value length" *)
67 Here's Scheme:
69         (let* [(length
70                                 (lambda (lst) (if (null? lst) 0 [+ 1 (length (cdr lst))] )) )]
71                         (length (list 20 30)))
72         ; fails with error "reference to undefined identifier: length"
74 Why? Because we said that constructions of this form:
76         let length = A
77                 in B
79 really were just another way of saying:
81         (\length. B) A
83 and so the occurrences of `length` in A *aren't bound by the `\length` that wraps B*. Those occurrences are free.
85 We can verify this by wrapping the whole expression in a more outer binding of `length` to some other function, say the constant function from any list to the integer 99:
87         let length = fun lst -> 99
88         in let length = fun lst ->
89                         if lst == [] then 0 else 1 + length (tail lst)
90         in length [20; 30]
91         (* evaluates to 1 + 99 *)
93 Here the use of `length` in `1 + length (tail lst)` can clearly be seen to be bound by the outermost `let`.
95 And indeed, if you tried to define `length` in the lambda calculus, how would you do it?
97         \lst. (isempty lst) zero (add one (length (extract-tail lst)))
99 We've defined all of `isempty`, `zero`, `add`, `one`, and `extract-tail` in earlier discussion. But what about `length`? That's not yet defined! In fact, that's the very formula we're trying here to specify.
101 What we really want to do is something like this:
103         \lst. (isempty lst) zero (add one (... (extract-tail lst)))
105 where this very same formula occupies the `...` position:
107         \lst. (isempty lst) zero (add one (
108                 \lst. (isempty lst) zero (add one (... (extract-tail lst)))
109                         (extract-tail lst)))
111 but as you can see, we'd still have to plug the formula back into itself again, and again, and again... No dice.
113 So how could we do it? And how do OCaml and Scheme manage to do it, with their `let rec` and `letrec`?
115 1.      OCaml and Scheme do it using a trick. Well, not a trick. Actually an impressive, conceptually deep technique, which we haven't yet developed. Since we want to build up all the techniques we're using by hand, then, we shouldn't permit ourselves to rely on `let rec` or `letrec` until we thoroughly understand what's going on under the hood.
117 2.      If you tried this in Scheme:
119                 (define length
120                                 (lambda (lst) (if (null? lst) 0 [+ 1 (length (cdr lst))] )) )
122                 (length (list 20 30))
124         You'd find that it works! This is because `define` in Scheme is really shorthand for `letrec`, not for plain `let` or `let*`. So we should regard this as cheating, too.
126 3.      In fact, it *is* possible to define the `length` function in the lambda calculus despite these obstacles. This depends on using the "version 3" implementation of lists, and exploiting its internal structure: that it takes a function and a base value and returns the result of folding that function over the list, with that base value. So we could use this as a definition of `length`:
128                 \lst. lst (\x sofar. successor sofar) zero
130         What's happening here? We start with the value zero, then we apply the function `\x sofar. successor sofar` to the two arguments <code>x<sub>n</sub></code> and `zero`, where <code>x<sub>n</sub></code> is the last element of the list. This gives us `successor zero`, or `one`. That's the value we've accumuluted "so far." Then we go apply the function `\x sofar. successor sofar` to the two arguments <code>x<sub>n-1</sub></code> and the value `one` that we've accumulated "so far." This gives us `two`. We continue until we get to the start of the list. The value we've then built up "so far" will be the length of the list.
132 We can use similar techniques to define many recursive operations on
133 lists and numbers. The reason we can do this is that our "version 3,"
134 fold-based implementation of lists, and Church's implementations of
135 numbers, have a internal structure that *mirrors* the common recursive
136 operations we'd use lists and numbers for.  In a sense, the recursive
137 structure of the `length` operation is built into the data
138 structure we are using to represent the list.  The non-recursive
139 version of length exploits this embedding of the recursion into
140 the data type.
142 This is one of the themes of the course: using data structures to
143 encode the state of some recursive operation.  See discussions of the
144 [[zipper]] technique, and [[defunctionalization]].
146 As we said before, it does take some ingenuity to define functions like `extract-tail` or `predecessor` for these implementations. However it can be done. (And it's not *that* difficult.) Given those functions, we can go on to define other functions like numeric equality, subtraction, and so on, just by exploiting the structure already present in our implementations of lists and numbers.
148 With sufficient ingenuity, a great many functions can be defined in the same way. For example, the factorial function is straightforward. The function which returns the nth term in the Fibonacci series is a bit more difficult, but also achievable.
150 ##Some functions require full-fledged recursive definitions##
152 However, some computable functions are just not definable in this
153 way. We can't, for example, define a function that tells us, for
154 whatever function `f` we supply it, what is the smallest integer `x`
155 where `f x` is `true`.  (You may be thinking: but that
156 smallest-integer function is not a proper algorithm, since it is not
157 guaranteed to halt in any finite amount of time for every argument.
158 This is the famous [[!wikipedia Halting problem]].  But the fact that
159 an implementation may not terminate doesn't mean that such a function
160 isn't well-defined.  The point of interest here is that its definition
161 requires recursion in the function definition.)
163 Neither do the resources we've so far developed suffice to define the
164 [[!wikipedia Ackermann function]]:
166         A(m,n) =
167                 | when m == 0 -> n + 1
168                 | else when n == 0 -> A(m-1,1)
169                 | else -> A(m-1, A(m,n-1))
171         A(0,y) = y+1
172         A(1,y) = 2+(y+3) - 3
173         A(2,y) = 2(y+3) - 3
174         A(3,y) = 2^(y+3) - 3
175         A(4,y) = 2^(2^(2^...2)) [where there are y+3 2s] - 3
176         ...
178 Many simpler functions always *could* be defined using the resources we've so far developed, although those definitions won't always be very efficient or easily intelligible.
180 But functions like the Ackermann function require us to develop a more general technique for doing recursion---and having developed it, it will often be easier to use it even in the cases where, in principle, we didn't have to.
182 ##Using fixed-point combinators to define recursive functions##
184 ###Fixed points###
186 In general, a **fixed point** of a function `f` is any value `x`
187 such that `f x` is equivalent to `x`. For example,
188 consider the squaring function `square` that maps natural numbers to their squares.
189 `square 2 = 4`, so `2` is not a fixed point.  But `square 1 = 1`, so `1` is a
190 fixed point of the squaring function.
192 There are many beautiful theorems guaranteeing the existence of a
193 fixed point for various classes of interesting functions.  For
194 instance, imainge that you are looking at a map of Manhattan, and you
195 are standing somewhere in Manhattan.  The the [[!wikipedia Brouwer
196 fixed-point theorem]] guarantees that there is a spot on the map that is
197 directly above the corresponding spot in Manhattan.  It's the spot
198 where the blue you-are-here dot should be.
200 Whether a function has a fixed point depends on the set of arguments
201 it is defined for.  For instance, consider the successor function `succ`
202 that maps each natural number to its successor.  If we limit our
203 attention to the natural numbers, then this function has no fixed
204 point.  (See the discussion below concerning a way of understanding
205 the successor function on which it does have a fixed point.)
207 In the lambda calculus, we say a fixed point of a term `f` is any term `X` such that:
209         X <~~> f X
211 You should be able to immediately provide a fixed point of the
212 identity combinator I.  In fact, you should be able to provide a
213 whole bunch of distinct fixed points.
215 With a little thought, you should be able to provide a fixed point of
216 the false combinator, KI.  Here's how to find it: recall that KI
217 throws away its first argument, and always returns I.  Therefore, if
218 we give it I as an argument, it will throw away the argument, and
219 return I.  So KII ~~> I, which is all it takes for I to qualify as a
220 fixed point of KI.
222 What about K?  Does it have a fixed point?  You might not think so,
223 after trying on paper for a while.
225 However, it's a theorem of the lambda calculus that every formula has
226 a fixed point. In fact, it will have infinitely many, non-equivalent
227 fixed points. And we don't just know that they exist: for any given
228 formula, we can explicit define many of them.
230 Yes, as we've mentioned, even the formula that you're using the define
231 the successor function will have a fixed point. Isn't that weird?
232 Think about how it might be true.  We'll return to this point below.
234 ###How fixed points help define recursive functions###
236 Recall our initial, abortive attempt above to define the `length` function in the lambda calculus. We said "What we really want to do is something like this:
238         \list. if empty list then zero else add one (... (tail lst))
240 where this very same formula occupies the `...` position."
242 Imagine replacing the `...` with some function that computes the
243 length function.  Call that function `length`.  Then we have
245         \list. if empty list then zero else add one (length (tail lst))
247 At this point, we have a definition of the length function, though
248 it's not complete, since we don't know what value to use for the
249 symbol `length`.  Technically, it has the status of an unbound
250 variable.
252 Imagine now binding the mysterious variable, and calling the resulting
253 function `h`:
255         h := \length \list . if empty list then zero else add one (length (tail list))
257 Now we have no unbound variables, and we have complete non-recursive
258 definitions of each of the other symbols.
260 So `h` takes an argument, and returns a function that accurately
261 computes the length of a list---as long as the argument we supply is
262 already the length function we are trying to define.  (Dehydrated
263 water: to reconstitute, just add water!)
265 Here is where the discussion of fixed points becomes relevant.  Saying
266 that `h` is looking for an argument (call it `LEN`) that has the same
267 behavior as the result of applying `h` to `LEN` is just another way of
268 saying that we are looking for a fixed point for `h`.
270     h LEN <~~> LEN
272 Replacing `h` with its definition, we have
274     (\list . if empty list then zero else add one (LEN (tail list))) <~~> LEN
276 If we can find a value for `LEN` that satisfies this constraint, we'll
277 have a function we can use to compute the length of an arbitrary list.
278 All we have to do is find a fixed point for `h`.
280 The strategy we will present will turn out to be a general way of
281 finding a fixed point for any lambda term.
283 ##Deriving Y, a fixed point combinator##
285 How shall we begin?  Well, we need to find an argument to supply to
286 `h`.  The argument has to be a function that computes the length of a
287 list.  The function `h` is *almost* a function that computes the
288 length of a list.  Let's try applying `h` to itself.  It won't quite
289 work, but examining the way in which it fails will lead to a solution.
291     h h <~~> \list . if empty list then zero else 1 + h (tail list)
293 The problem is that in the subexpression `h (tail list)`, we've
294 applied `h` to a list, but `h` expects as its first argument the
295 length function.
299     H = \h \list . if empty list then zero else one plus ((h h) (tail list))
301 This is the key creative step.  Instead of applying `h` to a list, we
302 apply it first to itself.  After applying `h` to an argument, it's
303 ready to apply to a list, so we've solved the problem just noted.
304 We're not done yet, of course; we don't yet know what argument to give
305 to `H` that will behave in the desired way.
307 So let's reason about `H`.  What exactly is H expecting as its first
308 argument?  Based on the excerpt `(h h) (tail l)`, it appears that
309 `H`'s argument, `h`, should be a function that is ready to take itself
310 as an argument, and that returns a function that takes a list as an
311 argument.  `H` itself fits the bill:
313     H H <~~> (\h \list . if empty list then zero else 1 + ((h h) (tail list))) H
314         <~~> \list . if empty list then zero else 1 + ((H H) (tail list))
315         == \list . if empty list then zero else 1 + ((\list . if empty list then zero else 1 + ((H H) (tail list))) (tail list))
316         <~~> \list . if empty list then zero
317                     else 1 + (if empty (tail list) then zero else 1 + ((H H) (tail (tail list))))
321 How does the recursion work?
322 We've defined `H` in such a way that `H H` turns out to be the length function.
323 In order to evaluate `H H`, we substitute `H` into the body of the
324 lambda term.  Inside the lambda term, once the substitution has
325 occurred, we are once again faced with evaluating `H H`.  And so on.
327 We've got the infinite regress we desired, defined in terms of a
328 finite lambda term with no undefined symbols.
330 Since `H H` turns out to be the length function, we can think of `H`
331 by itself as half of the length function (which is why we called it
332 `H`, of course).  Can you think up a recursion strategy that involves
333 "dividing" the recursive function into equal thirds `T`, such that the
334 length function <~~> T T T?
336 We've starting with a particular recursive definition, and arrived at
337 a fixed point for that definition.
338 What's the general recipe?
340 1.   Start with any recursive definition `h` that takes itself as an arg: `h := \fn ... fn ...`
341 2.   Next, define `H := \f . h (f f)`
342 3.   Then compute `H H = ((\f . h (f f)) (\f . h (f f)))`
343 4.   That's the fixed point, the recursive function we're trying to define
345 So here is a general method for taking an arbitrary h-style recursive function
346 and returning a fixed point for that function:
348      Y := \h. ((\f.h(ff))(\f.h(ff)))
350 Test:
352     Yh == ((\f.h(ff))(\f.h(ff)))
353        <~~> h((\f.h(ff))(\f.h(ff)))
354        == h(Yh)
356 That is, Yh is a fixed point for h.
358 Works!
360 Let's do one more example to illustrate.  We'll do `K`, since we
361 wondered above whether it had a fixed point.
363 Before we begin, we can reason a bit about what the fixed point must
364 be like.  We're looking for a fixed point for `K`, i.e., `\xy.x`.  `K`
365 ignores its second argument.  That means that no matter what we give
366 `K` as its first argument, the result will ignore the next argument
367 (that is, `KX` ignores its first argument, no matter what `X` is).  So
368 if `KX <~~> X`, `X` had also better ignore its first argument.  But we
369 also have `KX == (\xy.x)X ~~> \y.X`.  This means that if `X` ignores
370 its first argument, then `\y.X` will ignore its first two arguments.
371 So once again, if `KX <~~> X`, `X` also had better ignore at least its
372 first two arguments.  Repeating this reasoning, we realize that `X`
373 must be a function that ignores an infinite series of arguments.
374 Our expectation, then, is that our recipe for finding fixed points
375 will build us a function that somehow manages to ignore an infinite
376 series of arguments.
378     h := \xy.x
379     H := \f.h(ff) == \f.(\xy.x)(ff) ~~> \fy.ff
380     H H := (\fy.ff)(\fy.ff) ~~> \y.(\fy.ff)(\fy.ff)
382 Let's check that it is in fact a fixed point:
384     K(H H) == (\xy.x)((\fy.ff)(\fy.ff)
385            ~~> \y.(\fy.ff)(\fy.ff)
387 Yep, `H H` and `K(H H)` both reduce to the same term.
389 To see what this fixed point does, let's reduce it a bit more:
391     H H == (\fy.ff)(\fy.ff)
392         ~~> \y.(\fy.ff)(\fy.ff)
393         ~~> \yy.(\fy.ff)(\fy.ff)
394         ~~> \yyy.(\fy.ff)(\fy.ff)
396 Sure enough, this fixed point ignores an endless, infinite series of
397 arguments.  It's a write-only memory, a black hole.
399 Now that we have one fixed point, we can find others, for instance,
401     (\fy.fff)(\fy.fff)
402     ~~> \y.(\fy.fff)(\fy.fff)(\fy.fff)
403     ~~> \yy.(\fy.fff)(\fy.fff)(\fy.fff)(\fy.fff)
404     ~~> \yyy.(\fy.fff)(\fy.fff)(\fy.fff)(\fy.fff)(\fy.fff)
406 Continuing in this way, you can now find an infinite number of fixed
407 points, all of which have the crucial property of ignoring an infinite
408 series of arguments.
410 ##What is a fixed point for the successor function?##
412 As we've seen, the recipe just given for finding a fixed point worked
413 great for our `h`, which we wrote as a definition for the length
414 function.  But the recipe doesn't make any assumptions about the
415 internal structure of the function it works with.  That means it can
416 find a fixed point for literally any function whatsoever.
418 In particular, what could the fixed point for the
419 successor function possibly be like?
421 Well, you might think, only some of the formulas that we might give to the `successor` as arguments would really represent numbers. If we said something like:
423         successor make-pair
425 who knows what we'd get back? Perhaps there's some non-number-representing formula such that when we feed it to `successor` as an argument, we get the same formula back.
427 Yes! That's exactly right. And which formula this is will depend on the particular way you've implemented the successor function.
429 One (by now obvious) upshot is that the recipes that enable us to name
430 fixed points for any given formula aren't *guaranteed* to give us
431 *terminating* fixed points. They might give us formulas X such that
432 neither `X` nor `f X` have normal forms. (Indeed, what they give us
433 for the square function isn't any of the Church numerals, but is
434 rather an expression with no normal form.) However, if we take care we
435 can ensure that we *do* get terminating fixed points. And this gives
436 us a principled, fully general strategy for doing recursion. It lets
437 us define even functions like the Ackermann function, which were until
438 now out of our reach. It would also let us define arithmetic and list
439 functions on the "version 1" and "version 2" implementations, where it
440 wasn't always clear how to force the computation to "keep going."
442 ###Varieties of fixed-point combinators###
444 OK, so how do we make use of this?
446 Many fixed-point combinators have been discovered. (And some
447 fixed-point combinators give us models for building infinitely many
448 more, non-equivalent fixed-point combinators.)
450 Two of the simplest:
452 <pre><code>&Theta;&prime; &equiv; (\u f. f (\n. u u f n)) (\u f. f (\n. u u f n))
453 Y&prime; &equiv; \f. (\u. f (\n. u u n)) (\u. f (\n. u u n))</code></pre>
455 <code>&Theta;&prime;</code> has the advantage that <code>f (&Theta;&prime; f)</code> really *reduces to* <code>&Theta;&prime; f</code>. Whereas <code>f (Y&prime; f)</code> is only *convertible with* <code>Y&prime; f</code>; that is, there's a common formula they both reduce to. For most purposes, though, either will do.
457 You may notice that both of these formulas have eta-redexes inside them: why can't we simplify the two `\n. u u f n` inside <code>&Theta;&prime;</code> to just `u u f`? And similarly for <code>Y&prime;</code>?
459 Indeed you can, getting the simpler:
461 <pre><code>&Theta; &equiv; (\u f. f (u u f)) (\u f. f (u u f))
462 Y &equiv; \f. (\u. f (u u)) (\u. f (u u))</code></pre>
464 I stated the more complex formulas for the following reason: in a language whose evaluation order is *call-by-value*, the evaluation of <code>&Theta; (\self. BODY)</code> and `Y (\self. BODY)` will in general not terminate. But evaluation of the eta-unreduced primed versions will.
466 Of course, if you define your `\self. BODY` stupidly, your formula will never terminate. For example, it doesn't matter what fixed point combinator you use for <code>&Psi;</code> in:
468 <pre><code>&Psi; (\self. \n. self n)</code></pre>
470 When you try to evaluate the application of that to some argument `M`, it's going to try to give you back:
472         (\n. self n) M
474 where `self` is equivalent to the very formula `\n. self n` that contains it. So the evaluation will proceed:
476         (\n. self n) M ~~>
477         self M ~~>
478         (\n. self n) M ~~>
479         self M ~~>
480         ...
482 You've written an infinite loop!
484 However, when we evaluate the application of our:
486 <pre><code>&Psi; (\self (\lst. (isempty lst) zero (add one (self (extract-tail lst))) ))</code></pre>
488 to some list `L`, we're not going to go into an infinite evaluation loop of that sort. At each cycle, we're going to be evaluating the application of:
490         \lst. (isempty lst) zero (add one (self (extract-tail lst)))
492 to *the tail* of the list we were evaluating its application to at the previous stage. Assuming our lists are finite (and the implementations we're using don't permit otherwise), at some point one will get a list whose tail is empty, and then the evaluation of that formula to that tail will return `zero`. So the recursion eventually bottoms out in a base value.
494 ##Fixed-point Combinators Are a Bit Intoxicating##
496 ![tatoo](/y-combinator-fixed.jpg)
498 There's a tendency for people to say "Y-combinator" to refer to fixed-point combinators generally. We'll probably fall into that usage ourselves. Speaking correctly, though, the Y-combinator is only one of many fixed-point combinators.
500 I used <code>&Psi;</code> above to stand in for an arbitrary fixed-point combinator. I don't know of any broad conventions for this. But this seems a useful one.
502 As we said, there are many other fixed-point combinators as well. For example, Jan Willem Klop pointed out that if we define `L` to be:
504         \a b c d e f g h i j k l m n o p q s t u v w x y z r. (r (t h i s i s a f i x e d p o i n t c o m b i n a t o r))
506 then this is a fixed-point combinator:
508         L L L L L L L L L L L L L L L L L L L L L L L L L L
511 ##Watching Y in action##
513 For those of you who like to watch ultra slow-mo movies of bullets
514 piercing apples, here's a stepwise computation of the application of a
515 recursive function.  We'll use a function `sink`, which takes one
516 argument.  If the argument is boolean true (i.e., `\x y.x`), it
517 returns itself (a copy of `sink`); if the argument is boolean false
518 (`\x y. y`), it returns `I`.  That is, we want the following behavior:
520     sink false ~~> I
521     sink true false ~~> I
522     sink true true false ~~> I
523     sink true true true false ~~> I
525 So we make `sink = Y (\f b. b f I)`:
527     1. sink false
528     2. Y (\fb.bfI) false
529     3. (\f. (\h. f (h h)) (\h. f (h h))) (\fb.bfI) false
530     4. (\h. [\fb.bfI] (h h)) (\h. [\fb.bfI] (h h)) false
531     5. [\fb.bfI] ((\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))) false
532     6. (\b.b[(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))]I)  false
533     7. false [(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))] I
534              --------------------------------------------
535     8. I
537 So far so good.  The crucial thing to note is that as long as we
538 always reduce the outermost redex first, we never have to get around
539 to computing the underlined redex: because `false` ignores its first
540 argument, we can throw it away unreduced.
542 Now we try the next most complex example:
544     1. sink true false
545     2. Y (\fb.bfI) true false
546     3. (\f. (\h. f (h h)) (\h. f (h h))) (\fb.bfI) true false
547     4. (\h. [\fb.bfI] (h h)) (\h. [\fb.bfI] (h h)) true false
548     5. [\fb.bfI] ((\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))) true false
549     6. (\b.b[(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))]I)  true false
550     7. true [(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))] I false
551     8. [(\h. [\fb.bsI] (h h))(\h. [\fb.bsI] (h h))] false
553 We've now arrived at line (4) of the first computation, so the result
554 is again I.
556 You should be able to see that `sink` will consume as many `true`s as
557 we throw at it, then turn into the identity function after it
558 encounters the first `false`.
560 The key to the recursion is that, thanks to Y, the definition of
561 `sink` contains within it the ability to fully regenerate itself as
562 many times as is necessary.  The key to *ending* the recursion is that
563 the behavior of `sink` is sensitive to the nature of the input: if the
564 input is the magic function `false`, the self-regeneration machinery
565 will be discarded, and the recursion will stop.
567 That's about as simple as recursion gets.
569 ##Application to the truth teller/liar paradoxes##
571 ###Base cases, and their lack###
573 As any functional programmer quickly learns, writing a recursive
574 function divides into two tasks: figuring out how to handle the
575 recursive case, and remembering to insert a base case.  The
576 interesting and enjoyable part is figuring out the recursive pattern,
577 but the base case cannot be ignored, since leaving out the base case
578 creates a program that runs forever.  For instance, consider computing
579 a factorial: `n!` is `n * (n-1) * (n-2) * ... * 1`.  The recursive
580 case says that the factorial of a number `n` is `n` times the
581 factorial of `n-1`.  But if we leave out the base case, we get
583     3! = 3 * 2! = 3 * 2 * 1! = 3 * 2 * 1 * 0! = 3 * 2 * 1 * 0 * -1! ...
585 That's why it's crucial to declare that 0! = 1, in which case the
586 recursive rule does not apply.  In our terms,
588     fac = Y (\fac n. iszero n 1 (fac (predecessor n)))
590 If `n` is 0, `fac` reduces to 1, without computing the recursive case.
592 Curry originally called `Y` the paradoxical combinator, and discussed
593 it in connection with certain well-known paradoxes from the philosophy
594 literature.  The truth teller paradox has the flavor of a recursive
595 function without a base case: the truth-teller paradox (and related
598 (1)    This sentence is true.
600 If we assume that the complex demonstrative "this sentence" can refer
601 to (1), then the proposition expressed by (1) will be true just in
602 case the thing referred to by *this sentence* is true.  Thus (1) will
603 be true just in case (1) is true, and (1) is true just in case (1) is
604 true, and so on.  If (1) is true, then (1) is true; but if (1) is not
605 true, then (1) is not true.
607 Without pretending to give a serious analysis of the paradox, let's
608 assume that sentences can have for their meaning boolean functions
609 like the ones we have been working with here.  Then the sentence *John
610 is John* might denote the function `\x y. x`, our `true`.
612 Then (1) denotes a function from whatever the referent of *this
613 sentence* is to a boolean.  So (1) denotes `\f. f true false`, where
614 the argument `f` is the referent of *this sentence*.  Of course, if
615 `f` is a boolean, `f true false <~~> f`, so for our purposes, we can
616 assume that (1) denotes the identity function `I`.
618 If we use (1) in a context in which *this sentence* refers to the
619 sentence in which the demonstrative occurs, then we must find a
620 meaning `m` such that `I m = I`.  But since in this context `m` is the
621 same as the meaning `I`, so we have `m = I m`.  In other words, `m` is
622 a fixed point for the denotation of the sentence (when used in the
623 appropriate context).
625 That means that in a context in which *this sentence* refers to the
626 sentence in which it occurs, the sentence denotes a fixed point for
627 the identity function.  Here's a fixed point for the identity
628 function:
630 <pre><code>Y I
631 (\f. (\h. f (h h)) (\h. f (h h))) I
632 (\h. I (h h)) (\h. I (h h)))
633 (\h. (h h)) (\h. (h h)))
634 &omega; &omega;
635 &Omega
636 </code></pre>
638 Oh.  Well!  That feels right.  The meaning of *This sentence is true*
639 in a context in which *this sentence* refers to the sentence in which
640 it occurs is <code>&Omega;</code>, our prototypical infinite loop...
644 (2)  This sentence is false.
646 Used in a context in which *this sentence* refers to the utterance of
647 (2) in which it occurs, (2) will denote a fixed point for `\f.neg f`,
648 or `\f l r. f r l`, which is the `C` combinator.  So in such a
649 context, (2) might denote
651      Y C
652      (\f. (\h. f (h h)) (\h. f (h h))) I
653      (\h. C (h h)) (\h. C (h h)))
654      C ((\h. C (h h)) (\h. C (h h)))
655      C (C ((\h. C (h h))(\h. C (h h))))
656      C (C (C ((\h. C (h h))(\h. C (h h)))))
657      ...
659 And infinite sequence of `C`s, each one negating the remainder of the
660 sequence.  Yep, that feels like a reasonable representation of the
663 See Barwise and Etchemendy's 1987 OUP book, [The Liar: an essay on
664 truth and circularity](http://tinyurl.com/2db62bk) for an approach
665 that is similar, but expressed in terms of non-well-founded sets
666 rather than recursive functions.
668 ##However...##
670 You should be cautious about feeling too comfortable with
671 these results.  Thinking again of the truth-teller paradox, yes,
672 <code>&Omega;</code> is *a* fixed point for `I`, and perhaps it has
673 some a privileged status among all the fixed points for `I`, being the
674 one delivered by Y and all (though it is not obvious why Y should have
675 any special status).
677 But one could ask: look, literally every formula is a fixed point for
678 `I`, since
680     X <~~> I X
682 for any choice of X whatsoever.
684 So the Y combinator is only guaranteed to give us one fixed point out
685 of infinitely many---and not always the intuitively most useful
686 one. (For instance, the squaring function has zero as a fixed point,
687 since 0 * 0 = 0, and 1 as a fixed point, since 1 * 1 = 1, but `Y
688 (\x. mul x x)` doesn't give us 0 or 1.) So with respect to the
689 truth-teller paradox, why in the reasoning we've
690 just gone through should we be reaching for just this fixed point at
691 just this juncture?
693 One obstacle to thinking this through is the fact that a sentence
694 normally has only two truth values.  We might consider instead a noun
695 phrase such as
697 (3)  the entity that this noun phrase refers to
699 The reference of (3) depends on the reference of the embedded noun
700 phrase *this noun phrase*.  It's easy to see that any object is a
701 fixed point for this referential function: if this pen cap is the
702 referent of *this noun phrase*, then it is the referent of (3), and so
703 for any object.
705 The chameleon nature of (3), by the way (a description that is equally
706 good at describing any object), makes it particularly well suited as a
707 gloss on pronouns such as *it*.  In the system of