75b3783f01f2bc85dd8730f4a002a9f964ba871c
1 This is a long and substantial assignment. On the one hand, it doesn't have any stumpers like we gave you in past weeks, such as defining `pred` or mutual recursion. (Well, we *do* ask you to define `pred` again, but now you understand a basic strategy for doing so, so it's no longer a stumper.) On the other hand, there are a bunch of problems; many of them demand a modest amount of time; and this week you're coming to terms with both System F *and* with OCaml or Haskell. So it's a lot to do.
3 The upside is that there won't be any new homework assigned this week, and you can take longer to complete this assignment if you need to. As always, don't get stuck on the "More challenging" questions if you find them too hard. Be sure to send us your work even if it's not entirely completed, so we can see where you are. And consult with us (over email or in person on Wednesday) about things you don't understand, especially issues you're having working with OCaml or Haskell, or with translating between System F and them. We will update this homework page with clarifications or explanations that your questions prompt.
5 We will also be assigning some philosophy of language readings for you to look at before this Thursday's seminar meeting.
7 Those, and lecture notes from this past week, will be posted shortly.
11 ## Option / Maybe Types ##
13 You've already defined and worked with `map` as a function on lists. Now we're going to work instead with the type OCaml defines like this:
15     type ('a) option = None | Some of 'a
17 and Haskell defines like this:
19     data Maybe a = Nothing | Just a
21 That is, instances of this type are either an instance of `'a` (this can be any type), wrapped up in a `Some` or `Just` box, or they are a separate value representing a failure. This is sort of like working with a set or a list guaranteed to be either singleton or empty.
23 In one of the homework meetings, Chris posed the challenge: you know those dividers they use in checkout lines to separate your purchases from the next person's? What if you wanted to buy one of those dividers? How could they tell whether it belonged to your purchases or was separating them from others?
25 The OCaml and Haskell solution is to use not supermarket dividers but instead those gray bins from airport security. If you want to buy something, it goes into a bin. (OCaml's `Some`, Haskell's `Just`). If you want to separate your stuff from the next person, you send an empty bin (OCaml's `None`, Haskell's `Nothing`). If you happen to be buying a bin, OK, you put that into a bin. In OCaml it'd be `Some None` (or `Some (Some stuff)` if the bin you're buying itself contains some stuff); in Haskell `Just Nothing`. This way, we can't confuse a bin that contains a bin with an empty bin. (Not even if the contained bin is itself empty.)
27 1.  Your first problem is to write a `maybe_map` function for these types. Here is the type of the function you should write:
29         (* OCaml *)
30         maybe_map : ('a -> 'b) -> ('a) option -> ('b) option
33         maybe_map :: (a -> b) -> Maybe a -> Maybe b
35     If your `maybe_map` function is given a `None` or `Nothing` as its second argument, that should be what it returns. Otherwise, it should apply the function it got as its first argument to the contents of the `Some` or `Just` bin that it got as its second, and return the result, wrapped back up in a `Some` or `Just`. (Yes, we know that the `fmap` function in Haskell already implements this functionality. Your job is to write it yourself.)
37     One way to extract the contents of an `option`/`Maybe` value is to pattern match on that value, as you did with lists. In OCaml:
39         match m with
40         | None -> ...
41         | Some y -> ...
45         case m of {
46           Nothing -> ...;
47           Just y -> ...
48         }
50     Some other tips: In OCaml you write recursive functions using `let rec`, in Haskell you just use `let` (it's already assumed to be recursive). In OCaml when you finish typing something and want the interpreter to parse it, check and display its type, and evaluate it, type `;;` and then return. You may want to review the [[Rosetta pages here]] and also read some of the tutorials we linked to [[for OCaml]] or [[for Haskell]]. [WHERE]
53 2.  Next write a `maybe_map2` function. Its type should be:
55         (* OCaml *)
56         maybe_map2 : ('a -> 'b -> 'c) -> ('a) option -> ('b) option -> ('c) option
59         maybe_map2 :: (a -> b -> c) -> Maybe a -> Maybe b -> Maybe c
63 ## Color Trees ##
65 (The questions on Color and Search Trees are adapted from homeworks in Chapters 1 and 2 of Friedman and Wand, *Essentials of Programming Languages*.)
67 Here are type definitions for one kind of binary tree:
69     (* OCaml *)
70     type color = Red | Green | Blue | ... (* you can add as many as you like *)
71     type ('a) color_tree = Leaf of 'a | Branch of 'a color_tree * color * 'a color_tree
74     data Color = Red | Green | Blue | ...  deriving (Eq, Show)
75     data Color_tree a = Leaf a | Branch (Color_tree a) Color (Color_tree a)  deriving (Show)
77 These trees always have colors labeling their inner branching nodes, and will have elements of some type 'a labeling their leaves. `(int) color_tree`s will have `int`s there, `(bool) color_tree`s will have `bool`s there, and so on. The `deriving (Eq, Show)` part at the end of the Haskell declarations is boilerplate to tell Haskell you want to be able to compare the colors for equality, and also that you want the Haskell interpreter to display colors and lists to you when they are the result of evaluating an expression.
79 Here's how you create an instance of such a tree:
81     (* OCaml *)
82     let t1 = Branch (Leaf 1, Red, Branch (Leaf 2, Green, Leaf 0))
85     let t1 = Branch (Leaf 1) Red (Branch (Leaf 2) Green (Leaf 0))
87 Here's how you pattern match such a tree, binding variables to its components:
89     (* OCaml *)
90     match t with
91     | Leaf n -> false
92     | Branch (_, c, _) -> c = Red
95     case t of {
96       Leaf n -> False;
97       Branch _ c _ -> c == Red
98     }
100 These expressions query whether `t` is a branching `color_tree` (not a leaf) whose root is labeled `Red`.
102 Choose one of these languages and write the following functions.
105 3.  Define a function `tree_map` whose type is (as shown by OCaml): `('a -> 'b) -> ('a) color_tree -> ('b) color_tree`. It expects a function `f` and an `('a) color_tree`, and returns a new tree with the same structure and inner branch colors as the original, but with all of its leaves now having had `f` applied to their original value. So for example, `map (2*) t1` would return `t1` with all of its leaf values doubled.
107 4.  Define a function `tree_foldleft` that accepts an argument `g : 'z -> 'a -> 'z` and a seed value `z : 'z` and a tree  `t : ('a) color_tree`, and returns the result of applying `g` first to `z` and `t`'s leftmost leaf, and then applying `g` to *that result* and `t`'s second-leftmost leaf, and so on, all the way across `t`'s fringe. Only the leaf values affect the result; the inner branch colors are ignored.
109 5.  How would you use the function defined in problem 4 (the previous problem) to sum up the values labeling the leaves of an `(int) color_tree`?
111 6.  How would you use the function defined in problem 4 to enumerate a tree's fringe? (Don't worry about whether it comes out left-to-right or right-to-left.)
113 7.  Write a recursive function to make a copy of a `color_tree` with the same structure and inner branch colors, but where the leftmost leaf is now labeled `0`, the second-leftmost leaf is now labeled `1`, and so on.
115 8.  (More challenging.) Write a recursive function that makes a copy of a `color_tree` with the same structure and inner branch colors, but replaces each leaf label with the `int` that reports how many of that leaf's ancestors are labeled `Red`. For example, if we give your function a tree:
117     <pre>
118         Red
119         / \
120       Blue \
121       / \  Green
122      a   b  / \
123            c   Red
124                / \
125               d   e
126     </pre>
128     (for any leaf values `a` through `e`), it should return:
130     <pre>
131         Red
132         / \
133       Blue \
134       / \  Green
135      1   1  / \
136            1   Red
137                / \
138               2   2
139     </pre>
141 9.  (More challenging.) Assume you have a `color_tree` whose leaves are labeled with `int`s (which may be negative). For this problem, assume also that the the same color never labels multiple inner branches. Write a recursive function that reports which color has the greatest "score" when you sum up all the values of its descendent leaves. Since some leaves may have negative values, the answer won't always be the color at the tree root. In the case of ties, you can return whichever of the highest scoring colors you like.
144 ## Search Trees ##
146 (More challenging.) For the next problem, assume the following type definition:
148     (* OCaml *)
149     type search_tree = Nil | Inner of search_tree * int * search_tree
152     data Search_tree = Nil | Inner Search_tree Int Search_tree  deriving (Show)
154 That is, its leaves have no labels and its inner nodes are labeled with `int`s. Additionally, assume that all the `int`s in branches descending to the left from a given node will be less than the `int` of that parent node, and all the `int`s in branches descending to the right will be greater. We can't straightforwardly specify this constraint in OCaml's or Haskell's type definitions. We just have to be sure to maintain it by hand.
156 10. Write a function `search_for` with the following type, as displayed by OCaml:
158         type direction = Left | Right
159         search_for : int -> search_tree -> direction list option
163         data Direction = Left | Right  deriving (Eq, Show)
164         search_for :: Int -> Search_tree -> Maybe [Direction]
166     Your function should search through the tree for the specified `int`. If it's never found, it should return the value OCaml calls `None` and Haskell calls `Nothing`. If it finds the `int` right at the root of the `search_tree`, it should return the value OCaml calls `Some []` and Haskell calls `Just []`. If it finds the `int` by first going down the left branch from the tree root, and then going right twice, it should return `Some [Left; Right; Right]` or `Just [Left, Right, Right]`.
169 ## More Map2s ##
171 Above, you defined `maybe_map2` [WHERE]. Before we encountered `map2` for lists. There are in fact several different approaches to mapping two lists together.
173 11. One approach is to apply the supplied function to the first element of each list, and then to the second element of each list, and so on, until the lists are exhausted. If the lists are of different lengths, you might stop with the shortest, or you might raise an error. Different implementations make different choices about that. Let's call this function:
175         (* OCaml *)
176         map2_zip : ('a -> 'b -> 'c) -> ('a) list -> ('b) list -> ('c) list
178     Write a recursive function that implements this, in Haskell or OCaml. Let's say you can stop when the shorter list runs out, if they're of different lengths. (OCaml and Haskell each already have functions in their standard libraries --- `map2` or `zipWith` -- that do this. And it also corresponds to a list comprehension you can write in Haskell like this:
180         :set -XParallelListComp
181         [ f x y | x <- xs | y <- ys ]
183     <!-- or `f <\$/fmap> ZipList xs <*/ap> ZipList ys`; or `pure f <*> ...`; or `liftA2 f (ZipList xs) (ZipList ys)` -->
184     But we want you to write this function from scratch.)
186 12. What is the relation between the function you just wrote, and the `maybe_map2` function you wrote for problem 2, above?
188 13. Another strategy is to take the *cross product* of the two lists. If the function:
190         (* OCaml *)
191         map2_cross : ('a -> 'b -> 'c) -> ('a) list -> ('b) list -> ('c) list
193     is applied to the arguments `f`, `[x0, x1, x2]`, and `[y0, y1]`, then the result should be: `[f x0 y0, f x0 y1, f x1 y0, f x1 y1, f x2 y0, f x2 y1]`. Write this function.
194     <!-- in Haskell, `liftA2 f xs ys` -->
196 A similar choice between "zipping" and "crossing" could be made when `map2`-ing two trees. For example, the trees:
198 <pre>
199     0       5
200    / \     / \
201   1   2   6   7
202  / \         / \
203  3  4        8  9
204 </pre>
206 could be "zipped" like this (ignoring any parts of branches on the one tree that extend farther than the corresponding branch on the other):
208 <pre>
209    f 0 5
210    /    \
211 f 1 6  f 2 7
212 </pre>
214 14. You can try defining that if you like, for extra credit.
216 "Crossing" the trees would instead add copies of the second tree as subtrees replacing each leaf of the original tree, with the leaves of that larger tree labeled with `f` applied to `3` and `6`, then `f` applied to `3` and `8`, and so on across the fringe of the second tree; then beginning again (in the subtree that replaces the `4` leaf) with `f` applied to `4` and `6`, and so on.
218 *   In all the plain `map` functions, whether for lists, or for `option`/`Maybe`s, or for trees, the structure of the result exactly matched the structure of the argument.
220 *   In the `map2` functions, whether for lists or for `option`/`Maybe`s or for trees, and whether done in the "zipping" style or in the "crossing" style, the structure of the result may be a bit different from the structure of the arguments. But the *structure* of the arguments is enough to determine the structure of the result; you don't have to look at the specific list elements or labels on a tree's leaves or nodes to know what the *structure* of the result will be.
222 *   We can imagine more radical transformations, where the structure of the result *does* depend on what specific elements the original structure(s) had. For example, what if we had to transform a tree by turning every leaf into a subtree that contained all of those leaf's prime factors? Or consider our problem from last week [WHERE] where you converted `[3, 2, 0, 1]` not into `[[3,3,3], [2,2], [], ]` --- which still has the same structure, that is length, as the original --- but rather into `[3, 3, 3, 2, 2, 1]` --- which doesn't.
223     (Some of you had the idea last week to define this last transformation in Haskell as `[x | x <- [3,2,0,1], y <- [0..(x-1)]]`, which just looks like a cross product, that we counted under the *previous* bullet point. However, in that expression, the second list's structure depends upon the specific values of the elements in the first list. So it's still true, as I said, that you can't specify the structure of the output list without looking at those elements.)
225 These three levels of how radical a transformation you are making to a structure, and the parallels between the transformations to lists, to `option`/`Maybe`s, and to trees, will be ideas we build on in coming weeks.
231 ## Untyped Lambda Terms ##
233 In OCaml, you can define some datatypes that represent terms in the untyped Lambda Calculus like this:
235     type identifier = string
236     type lambda_term = Var of identifier | Abstract of identifier * _____ | App of _____
238 We've left some gaps.
242     type Identifier = String
243     data Lambda_term = Var Identifier | Abstract Identifier _____ | App ________
245 15. Again, we've left some gaps. Choose one of these languages and fill in the gaps to complete the definition.
247 16. Write a function `occurs_free` that has the following type:
249         occurs_free : identifier -> lambda_term -> bool
251     That's how OCaml would show it. Haskell would use double colons `::` instead, and would also capitalize all the type names. Your function should tell us whether the supplied identifier ever occurs free in the supplied `lambda_term`.
256 ## Encoding Booleans, Church numerals, and Right-Fold Lists in System F ##
258 <!-- These questions are adapted from web materials by Umut Acar. Were at <http://www.mpi-sws.org/~umut/>. Now he's moved to <http://www.umut-acar.org/> and I can't find the page anymore. -->
261 (For the System F questions, you can either work on paper, or download and compile Pierce's evaluator for system F to test your work [WHERE].)
264 Let's think about the encodings of booleans, numerals and lists in System F,
265 and get datatypes with the same form working in OCaml or Haskell. (Of course, OCaml and Haskell
266 have *native* versions of these types: OCaml's `true`, `1`, and `[1;2;3]`.
267 But the point of our exercise requires that we ignore those.)
269 Recall from class System F, or the polymorphic λ-calculus, with this grammar:
271     types ::= constants | α ... | type1 -> type2 | ∀α. type
272     expressions ::= x ... | λx:type. expr | expr1 expr2 | Λα. expr | expr [type]
274 The boolean type, and its two values, may be encoded as follows:
276     Bool ≡ ∀α. α -> α -> α
277     true ≡ Λα. λy:α. λn:α. y
278     false ≡ Λα. λy:α. λn:α. n
280 It's used like this:
282     b [T] res1 res2
284 where `b` is a `Bool` value, and `T` is the shared type of `res1` and `res2`.
287 17. How should we implement the following terms? Note that the result
288 of applying them to the appropriate arguments should also give us a term of
289 type `Bool`.
291     (a) the term `not` that takes an argument of type `Bool` and computes its negation
292     (b) the term `and` that takes two arguments of type `Bool` and computes their conjunction
293     (c) the term `or` that takes two arguments of type `Bool` and computes their disjunction
295 The type `Nat` (for "natural number") may be encoded as follows:
297     Nat ≡ ∀α. (α -> α) -> α -> α
298     zero ≡ Λα. λs:α -> α. λz:α. z
299     succ ≡ λn:Nat. Λα. λs:α -> α. λz:α. s (n [α] s z)
301 A number `n` is deﬁned by what it can do, which is to compute a function iterated `n`
302 times. In the polymorphic encoding above, the result of that iteration can be
303 any type `α`, as long as your function is of type `α -> α` and you have a base element of type `α`.
305 18. Translate these encodings of booleans and Church numbers into OCaml or Haskell, implementing versions of `sysf_bool`, `sysf_true`, `sysf_false`, `sysf_nat`, `sysf_zero`, `sysf_iszero` (this is what we'd earlier write as `zero?`, but you can't use `?`s in function names in OCaml or Haskell), `sysf_succ`, and `sysf_pred`. We include the `sysf_` prefixes so as not to collide with any similarly-named native functions or values in these languages. Keep in mind the capitalization rules. In OCaml, types are written `sysf_bool`, and in Haskell, they are capitalized `Sysf_bool`. In both languages, variant/constructor tags (like `None` or `Some`) are capitalized, and function names start lowercase. But for this problem, you shouldn't need to use any variant/constructor tags. To get you started, here is how to define `sysf_bool` and `sysf_true` in OCaml:
307         type ('a) sysf_bool = 'a -> 'a -> 'a
308         let sysf_true : ('a) sysf_bool = fun y n -> y
312         type Sysf_bool a = a -> a -> a  -- this is a case where Haskell does use `type` instead of `data`
313         -- Now, to my mind the natural thing to write here would be:
314         let sysf_true :: Sysf_bool a = \y n -> y
315         -- But for complicated reasons, that won't work, and you need to do this instead:
316         let { sysf_true :: Sysf_bool a; sysf_true = \y n -> y }
317         -- Or this:
318         let sysf_true = (\y n -> y) :: Sysf_bool a
320     Note that in both OCaml and the Haskell code, `sysf_true` can be applied to further arguments directly:
322         sysf_true 10 20
324     You don't do anything like System F's `true [int] 10 20`. The OCaml and Haskell interpreters figure out what type `sysf_true` needs to be specialized to (in this case, to `int`), and do that automatically.
326     It's especially useful for you to implement a version of a System F encoding `pred`, starting with one of the (untyped) versions available in the lambda library accessible from the main wiki page. [WHERE]  The point of the exercise is to do these things on your own, so avoid using the built-in OCaml or Haskell booleans and integers.
330 Consider the following list type, specified using OCaml or Haskell datatypes:
332     (* OCaml *)
333     type ('a) my_list = Nil | Cons of 'a * 'a my_list
336      data My_list a = Nil | Cons a (My_list a)
338 We can encode that type into System F as a right-fold, just as we did in the untyped Lambda Calculus, like this:
340     list_T ≡ ∀α. (T -> α -> α) -> α -> α
341     nil_T ≡ Λα. λc:T -> α -> α. λn:α. n
342     cons_T ≡ λx:T. λxs:list_T. Λα. λc:T -> α -> α. λn:α. c x (xs [α] c n)
344 As with `Nat`s, the natural recursion is built into our encoding of the list datatype.
346 There is some awkwardness here, because System F doesn't have any parameterized types like OCaml's `('a) list` or Haskell's `[a]`. For those, we need to use a more complex system called System F_&omega;. System F *can* already define a more general polymorphic list type:
348     list ≡ ∀β. ∀α. (β -> α -> α) -> α -> α
350 But this is more awkward to work with, because for functions like `map` we want to give them not just the type:
352     (S -> T) -> list -> list
354 but more specifically, the type:
356     (S -> T) -> list [S] -> list [T]
358 Yet we haven't given ourselves the capacity to talk about `list [S]` and so on as a type. Hence, I'll just use the more clumsy, ad hoc specification of `map`'s type as:
360     FIXME qua
361     (S -> T) -> list_S -> list_T
363 <!--
364     = λf:S -> T. λxs:list. xs [S] [list [T]] (λx:S. λys:list [T]. cons [T] (f x) ys) (nil [T])
365 -->
367 19. Convert this list encoding and the `map` function to OCaml or Haskell. Call it `sysf_list`, `sysf_nil` and so on, to avoid collision with the names for native lists in these languages. (In OCaml and Haskell you *can* say `('a) sysf_list` or `Sysf_list a`.)
369 20. Also give us the type and definition for a `sysf_head` function. Think about what value to give back if its argument is the empty list.  Ultimately, we might want to make use of the `option`/`Maybe` technique explored in questions 1--2, but for this assignment, just pick a strategy, no matter how clunky.
371 21. Modify the implementation of the predecessor function [[given in the class notes|topics/week5_system_f]] [WHERE] to implement a `sysf_tail` function for your lists.
373 Be sure to test your proposals with simple lists. (You'll have to `sysf_cons` up a few sample lists yourself; don't expect OCaml or Haskell to magically translate between their native lists and the ones you've just defined.)
380 ## More on Types ##
382 22.  Recall that the **S** combinator is given by `\f g x. f x (g x)`. Give two different typings for this term in OCaml or Haskell. To get you started, here's one typing for **K**:
384         # let k (y:'a) (n:'b) = y ;;
385         val k : 'a -> 'b -> 'a = [fun]
386         # k 1 true ;;
387         - : int = 1
389     If you can't understand how one term can have several types, recall our discussion in this week's notes [WHERE] of "principal types".
394 ## Evaluation Order ##
396 Do these last three problems specifically with OCaml in mind, not Haskell. Analogues of the questions exist in Haskell, but because the default evaluation rules for these languages are different, it's too complicated to look at how these questions should be translated into the Haskell setting.
399 23.  Which of the following expressions is well-typed in OCaml? For those that are, give the type of the expression as a whole. For those that are not, why not?
401         let rec f x = f x
402         let rec f x = f f
403         let rec f x = f x in f f
404         let rec f x = f x in f ()
405         let rec f () = f f
406         let rec f () = f ()
407         let rec f () = f () in f f
408         let rec f () = f () in f ()
410 24.  Throughout this problem, assume that we have:
412         let rec blackhole x = blackhole x
414     <!-- Haskell could say: `let blackhole = \x -> fix (\f -> f)` -->
415     All of the following are well-typed. Which ones terminate?  What generalizations can you make?
417         blackhole
418         blackhole ()
419         fun () -> blackhole ()
420         (fun () -> blackhole ()) ()
421         if true then blackhole else blackhole
422         if false then blackhole else blackhole
423         if true then blackhole else blackhole ()
424         if false then blackhole else blackhole ()
425         if true then blackhole () else blackhole
426         if false then blackhole () else blackhole
427         if true then blackhole () else blackhole ()
428         if false then blackhole () else blackhole ()
429         let _ = blackhole in 2
430         let _ = blackhole () in 2
432 25.  This problem aims to get you thinking about how to control order of evaluation.
433 Here is an attempt to make explicit the behavior of `if ... then ... else ...` explored in the previous question.
434 The idea is to define an `if ... then ... else ...` expression using
435 other expression types.  So assume that `yes` is any (possibly complex) OCaml expression,
436 and `no` is any other OCaml expression (of the same type as `yes`!),
437 and that `bool` is any boolean expression.  Then we can try the following:
438 `if bool then yes else no` should be equivalent to
440         let b = bool in
441         let y = yes in
442         let n = no in
443         match b with true -> y | false -> n
445     This almost works.  For instance,
447         if true then 1 else 2
449     evaluates to 1, and
451         let b = true in let y = 1 in let n = 2 in
452         match b with true -> y | false -> n
454     also evaluates to 1.  Likewise,
456         if false then 1 else 2
458     and
460         let b = false in let y = 1 in let n = 2 in
461         match b with true -> y | false -> n
463     both evaluate to 2.
465     However,
467         let rec blackhole x = blackhole x in
468         if true then blackhole else blackhole ()
470     terminates, but
472         let rec blackhole x = blackhole x in
473         let b = true in
474         let y = blackhole in
475         let n = blackhole () in
476         match b with true -> y | false -> n
478     does not terminate.  Incidentally, using the shorter `match bool with true -> yes | false -> no` rather than the longer `let b = bool ... in match b with ...` *would* work as we desire. But your assignment is to control the evaluation order *without* using the special evaluation order properties of OCaml's native `if` or of its `match`. That is, you must keep the `let b = ... in match b with ...` structure in your answer, though you are allowed to adjust what `b`, `y`, and `n` get assigned to.
480     [[hints/assignment 5 hint 1]] WHERE