most answers done
[lambda.git] / exercises / assignment4_answers.mdwn
1 ## Fixed points ##
2
3 1.  Recall that `ω ≡ \x. x x`, and `Ω ≡ ω ω`.  Is `Ω` a fixed point for `ω`?  Find a fixed point for `ω`, and prove that it is a fixed point.
4
5     ANSWER: Most of you just stated that `Ω` a fixed point for `ω`, but didn't explain why. The mere fact that `ω Ω` doesn't immediately reduce to `Ω` doesn't show that the two terms are not convertible. However, one can argue that `Ω` syntactically has two lambdas, and that upon reduction it always yields itself. So it suffices to show that neither `ω Ω` nor anything it can reduces to can have two lambdas. And indeed it has three lambdas, and anything it reduces to will either have three or four lambdas. For the last part of the question, `Y X` is a fixed point for any `X`, as we've already demonstrated in the notes.
6
7 2.  Consider `Ω ξ` for an arbitrary term `ξ`.
8 `Ω` is so busy reducing itself (the eternal narcissist) that it
9 never gets around to noticing whether it has an argument, let alone
10 doing anything with that argument.  If so, how could `Ω` have a
11 fixed point?  That is, how could there be an `ξ` such that
12 `Ω ξ <~~> ξ`?  To answer this
13 question, begin by constructing `Y Ω`.  Prove that 
14 `Y Ω` is a fixed point for `Ω`.
15
16     ANSWER: Already demonstrated in the notes. We don't need `Ω ξ` to reduce to `ξ`, because `Y Ω` is a `ξ` that can do its own reducing.
17
18 3.  Find two different terms that have the same fixed point.  That is,
19 find terms `F`, `G`, and `ξ` such that `F ξ <~~> ξ` and `G ξ
20 <~~> ξ`.  (If you need a hint, reread the notes on fixed
21 points.)
22
23     ANSWER: Everything is a fixed point of `I`, so in particular `I` is. `I` is also a fixed point for `K I`. There are many other examples.
24
25 4.  Assume that `Ψ` is some fixed point combinator; we're not telling you which one. (You can just write `Psi` in your homework if you don't know how to generate the symbol `Ψ`.) Prove that `Ψ Ψ` is a fixed point of itself, that is, that `Ψ Ψ <~~> Ψ Ψ (Ψ Ψ)`.
26
27     ANSWER: By the definition of a fixed point operator, `Ψ Ψ` is a fixed point for `Ψ`; and `Ψ (Ψ Ψ)` is a fixed point for `Ψ Ψ`. That is: (a) `Ψ (Ψ Ψ) <~~> Ψ Ψ`; and (b) `Ψ Ψ (Ψ (Ψ Ψ)) <~~> Ψ (Ψ Ψ)`. Now a fact we did not discuss in class, but which Hankin and other readings do discuss, is that substitution of convertible subterms preserves convertibility (and as part of that, `<~~>` is transitive). Hence in the lhs of (b), we can substitute `Ψ Ψ` for the subterm `Ψ (Ψ Ψ)`, because of (a), getting (c) `Ψ Ψ (Ψ Ψ) <~~> Ψ (Ψ Ψ)`. But then by (a) and transitivity of `<~~>`, we get (d) `Ψ Ψ (Ψ Ψ) <~~> Ψ Ψ`. Which states that `Ψ Ψ` is a fixed point for itself.
28
29
30 ## Writing recursive functions ##
31
32 5.  Helping yourself to the functions given below,
33 write a recursive function called `fact` that computes the factorial.
34 The factorial `n! = n * (n - 1) * (n - 2) * ... * 3 * 2 * 1`.
35 For instance, `fact 0 ~~> 1`, `fact 1 ~~> 1`, `fact 2 ~~> 2`, `fact 3 ~~>
36 6`, and `fact 4 ~~> 24`.
37
38         let true = \y n. y in
39         let false = \y n. n in
40         let pair = \a b. \v. v a b in
41         let fst = \a b. a in   ; aka true
42         let snd = \a b. b in   ; aka false
43         let zero = \s z. z in
44         let succ = \n s z. s (n s z) in
45         let zero? = \n. n (\p. false) true in
46         let pred = \n. n (\p. p (\a b. pair (succ a) a)) (pair zero zero) snd in
47         let add = \l r. r succ l in
48         let mult = \l r. r (add l) 0 in
49         let Y = \h. (\u. h (u u)) (\u. h (u u)) in
50
51         let fact = ... in
52
53         fact 4
54
55     ANSWER: `let fact = Y (\fact n. (zero? n) 1 (mult n (fact (pred n))))`.
56
57 6.  For this question, we want to implement **sets** of numbers in terms of lists of numbers, where we make sure as we construct those lists that they never contain a single number more than once. (It would be even more efficient if we made sure that the lists were always sorted, but we won't try to implement that refinement here.) To enforce the idea of modularity, let's suppose you don't know the details of how the lists are implemented. You just are given the functions defined below for them (but pretend you don't see the actual definitions). These define lists in terms of [[one of the new encodings discussed last week|/topics/week3_lists#v5-lists]].
58
59         ; all functions from the previous question, plus
60         ; `num_cmp x y lt eq gt` returns lt when x<y, eq when x==y, gt when x>y
61         let num_cmp = (\base build consume. \l r. r consume (l build base) fst)
62                 ; where base is
63                 (pair (\a b c. b) (K (\a b c. a)))
64                 ; and build is
65                 (\p. pair (\a b c. c) p)
66                 ; and consume is
67                 (\p. p fst p (p snd) (p snd)) in
68         let num_equal? = \x y. num_cmp x y false true false in
69         let neg = \b y n. b n y in
70         let empty = \f n. n in
71         let cons = \x xs. \f n. f x xs in
72         let empty? = \xs. xs (\y ys. false) true in
73         let head = \xs. xs (\y ys. y) err in
74         let tail = \xs. xs (\y ys. ys) empty in
75         let append = Y (\append. \xs zs. xs (\y ys. (cons y (append ys zs))) zs) in
76         let take_while = Y (\take_while. \p xs. xs (\y ys. (p y) (cons y (take_while p ys)) empty) empty) in
77         let drop_while = Y (\drop_while. \p xs. xs (\y ys. (p y) (drop_while p ys) xs) empty) in
78         ...
79         
80     The functions `take_while` and `drop_while` work as described in [[Week 1's homework|assignment1]].
81
82     Using those resources, define a `set_cons` and a `set_equal?` function. The first should take a number argument `x` and a set argument `xs` (implemented as a list of numbers assumed to have no repeating elements), and return a (possibly new) set argument which contains `x`. (But make sure `x` doesn't appear in the result twice!) The `set_equal?` function should take two set arguments `xs` and `ys` and say whether they represent the same set. (Be careful, the lists `[1, 2]` and `[2, 1]` are different lists but do represent the same set. Hence, you can't just use the `list_equal?` function you defined in last week's homework.)
83
84     Here are some tips for getting started. Use `drop_while`, `num_equal?`, and `empty?` to define a `mem?` function that returns `true` if number `x` is a member of a list of numbers `xs`, else returns `false`. Also use `take_while`, `drop_while`, `num_equal?`, `tail` and `append` to define a `without` function that returns a copy of a list of numbers `xs` that omits the first occurrence of a number `x`, if there be such. You may find these functions `mem?` and `without` useful in defining `set_cons` and `set_equal?`. Also, for `set_equal?`, you are probably going to want to define the function recursively... as now you know how to do.
85
86     Some comments comparing this exercise to *The Little Schemer*, and Scheme more generally:
87
88     *   The `set_equal?` you're trying to define here is like `eqset?` in Chapter 7 of *The Little Schemer*, and `set_cons x xs` would be like `(makeset (cons x xs))`, from that same chapter.
89     *   `mem?` and `without` are like the `member?` and `rember` functions defined in Chapter 2 and 3 of *The Little Schemer*, though those functions are defined for lists of symbolic atoms, and here you are instead defining them for lists of numbers.  *The Little Schemer* also defines `multirember`, which removes all occurrences of a match rather than just the first; and `member*` and `rember*` in Chapter 5, that operate on lists that may contain other, embedded lists.
90     *   The native Scheme function that most resembles the `mem?` you're defining is `memv`, though that is defined for more than just numbers, and when that `memv` finds a match it returns a *list* starting with the match, rather than `#t`.
91
92
93     ANSWER: TODO
94
95 7.  Linguists often analyze natural language expressions into **trees**. We'll need trees in future weeks, and tree structures provide good opportunities for learning how to write recursive functions. Making use of our current resources, we might approximate trees as follows. Instead of words or syntactic categories, we'll have the nodes of the tree labeled with Church numbers. We'll think of a tree as a list in which each element is itself a tree. For simplicity, we'll adopt the convention that a tree of length 1 must contain a number as its only element.
96
97     Then we have the following representations:
98
99               .   
100              /|\  
101             / | \ 
102             1 2  3
103
104         [[1], [2], [3]]
105
106                .  
107               / \ 
108              /\  3
109             1  2  
110
111         [[[1], [2]], [3]]
112
113               .
114              / \
115             1  /\
116               2  3
117
118         [[1], [[2], [3]]]
119
120     Some limitations of this scheme: there is no easy way to label an inner, branching node (for example with a syntactic category like VP), and there is no way to represent a tree in which a mother node has a single daughter.
121
122     When processing a tree, you can test for whether the tree is a leaf node (that is, contains only a single number), by testing whether the length of the list is 1. This will be your base case for your recursive definitions that work on these trees. (You'll probably want to write a function `leaf?` that encapsulates this check.)
123
124     Your assignment is to write a Lambda Calculus function that expects a tree, encoded in the way just described, as an argument, and returns the sum of its leaves as a result. So for all of the trees listed above, it should return `1 + 2 + 3`, namely `6`. You can use any Lambda Calculus implementation of lists you like.
125
126     ANSWER: TODO
127
128
129 8.    The **fringe** of a leaf-labeled tree is the list of values at its leaves, ordered from left-to-right. For example, the fringe of all three trees displayed above is the same list, `[1, 2, 3]`. We are going to return to the question of how to tell whether trees have the same fringe several times this course. We'll discover more interesting and more efficient ways to do it as our conceptual toolboxes get fuller. For now, we're going to explore the straightforward strategy. Write a function that expects a tree as an argument, and returns the list which is its fringe. Next write a function that expects two trees as arguments, converts each of them into their fringes, and then determines whether the two lists so produced are equal. (Convert your `list_equal?` function from last week's homework into the Lambda Calculus for this last step.)
130
131     ANSWER: TODO
132
133
134
135 ## Arithmetic infinity? ##
136
137 The next few questions involve reasoning about Church arithmetic and
138 infinity.  Let's choose some arithmetic functions:
139
140     succ = \n s z. s (n s z)
141     add = \l r. r succ l in
142     mult = \l r. r (add l) 0 in
143     exp = \base r. r (mult base) 1 in
144
145 There is a pleasing pattern here: addition is defined in terms of
146 the successor function, multiplication is defined in terms of
147 addition, and exponentiation is defined in terms of multiplication.
148
149
150 9.  Find a fixed point `ξ` for the successor function.  Prove it's a fixed
151 point, i.e., demonstrate that `succ ξ <~~> ξ`.  
152
153     We've had surprising success embedding normal arithmetic in the Lambda
154 Calculus, modeling the natural numbers, addition, multiplication, and
155 so on.  But one thing that some versions of arithmetic supply is a
156 notion of infinity, which we'll write as `inf`.  This object sometimes
157 satisfies the following constraints, for any finite natural number `n`:
158
159         n + inf == inf
160         n * inf == inf
161         n ^ inf == inf
162         leq n inf == true
163
164     (Note, though, that with *some* notions of infinite numbers, like [[!wikipedia ordinal numbers]], operations like `+` are defined in such a way that `inf + n` is different from `n + inf`, and does exceed `inf`; similarly for `*` and `^`. With other notions of infinite numbers, like the [[!wikipedia cardinal numbers]], even less familiar arithmetic operations are employed.)
165
166     ANSWER: Let `H ≡ \u. succ (u u)`, and `X ≡ H H ≡ (\u. succ (u u)) H`. Note that `X ≡ H H ~~> succ (H H)`. Hence `X` is a fixed point for `succ`.
167
168 10. Prove that `add ξ 1 <~~> ξ`, where `ξ` is the fixed
169 point you found in (1).  What about `add ξ 2 <~~> ξ`?  
170
171     Comment: a fixed point for the successor function is an object such that it
172 is unchanged after adding 1 to it.  It makes a certain amount of sense
173 to use this object to model arithmetic infinity.  For instance,
174 depending on implementation details, it might happen that `leq n ξ` is
175 true for all (finite) natural numbers `n`.  However, the fixed point
176 you found for `succ` and `(+n)` (recall this is shorthand for `\x. add x n`) may not be a fixed point for `(*n)`, for example.
177
178     ANSWER: Prove that `add X 1 <~~> X`:
179
180         add X 1 == (\m n. n succ m) X 1
181                 ~~> 1 succ X
182                 == (\s z. s z) succ X
183                 ~~> succ X
184
185     Which by the previous problem is convertible with `X`. (In particular, `X ~~> succ X`.) What about `add X 2`?
186
187         add X 2 == (\m n. n succ m) X 2
188                 ~~> 2 succ X
189                 == (\s z. s (s z)) succ X
190                 ~~> succ (succ X)
191
192     And we know the inner term will be convertible with `X`, and hence we get that the whole result is convertible with `succ X`. Which we already said is convertible with `X`. We can readily see that `add X n <~~> X` for all (finite) natural numbers `n`.
193
194
195
196 ## Mutually-recursive functions ##
197
198 11. (Challenging.) One way to define the function `even?` is to have it hand off
199 part of the work to another function `odd?`:
200
201         let even? = \x. (zero? x)
202                         ; if x == 0 then result is
203                         true
204                         ; else result turns on whether x-1 is odd
205                         (odd? (pred x))
206
207     At the same tme, though, it's natural to define `odd?` in such a way that it
208 hands off part of the work to `even?`:
209
210         let odd? = \x. (zero? x)
211                        ; if x == 0 then result is
212                        false
213                        ; else result turns on whether x-1 is even
214                        (even? (pred x))
215
216     Such a definition of `even?` and `odd?` is called **mutually recursive**. If you
217 trace through the evaluation of some sample numerical arguments, you can see
218 that eventually we'll always reach a base step. So the recursion should be
219 perfectly well-grounded:
220
221         even? 3
222         ~~> (zero? 3) true (odd? (pred 3))
223         ~~> odd? 2
224         ~~> (zero? 2) false (even? (pred 2))
225         ~~> even? 1
226         ~~> (zero? 1) true (odd? (pred 1))
227         ~~> odd? 0
228         ~~> (zero? 0) false (even? (pred 0))
229         ~~> false
230
231     But we don't yet know how to implement this kind of recursion in the Lambda
232 Calculus.
233
234     The fixed point operators we've been working with so far worked like this:
235
236         let ξ = Y h in
237         ξ <~~> h ξ
238
239     Suppose we had a pair of fixed point operators, `Y1` and `Y2`, that operated on
240 a *pair* of functions `h` and `g`, as follows:
241
242         let ξ1 = Y1 h g in
243         let ξ2 = Y2 h g in
244         ξ1 <~~> h ξ1 ξ2 and
245         ξ2 <~~> g ξ1 ξ2
246
247     If we gave you such a `Y1` and `Y2`, how would you implement the above
248 definitions of `even?` and `odd?`?
249
250     ANSWER:
251
252     <pre>
253     let proto_even = \even odd. <span class="ul">\n. (zero? n) true (odd (pred n))</span> in
254     let proto_odd = \even odd. <span class="ul">\n. (zero? n) false (even (pred n))</span> in
255     let even = Y1 proto_even proto_odd in
256     let odd = Y2 proto_even proto_odd in
257     ...
258     </pre>
259
260     By the definitions of `Y1` and `Y2`, we know that `even <~~> proto_even even odd`, and `odd <~~> proto_odd even odd`. Hence the bound variables `even` and `odd` inside the `proto_...` functions have the values we want. `even` will be bound to (something convertible with) the underlined portion of `proto_even`, and `odd` will be bound to (something convertible with) the underlined portion of `proto_odd`.
261                                         
262 12. (More challenging.) Using our derivation of `Y` from [[this week's notes|topics/week4_fixed_point_combinators#deriving-y]] as a model, construct a pair `Y1` and `Y2` that behave in the way described above.
263
264     Here is one hint to get you started: remember that in the notes, we constructed a fixed point for `h` by evolving it into `H` and using `H H` as `h`'s fixed point. We suggested the thought exercise, how might you instead evolve `h` into some `T` and then use `T T T` as `h`'s fixed point. Try solving this problem first. It may help give you the insights you need to define a `Y1` and `Y2`. [[Here are some hints|assignment4_hint]].
265
266     ANSWER: One solution is given in the hint. Here is another:
267
268         let Y1 = \f g . (\u v . f (u u v)(v v u))
269                         (\u v . f (u u v)(v v u))
270                         (\v u . g (v v u)(u u v)) in
271         let Y2 = \f g . Y1 g f in
272         ...
273