20c464dc387a58adec68645c04a145d2c68f1a86
[lambda.git] / week9.mdwn
1 [[!toc]]
2
3 The seminar is now going to begin talking about more **imperatival** or **effect**-like elements in programming languages. The only effect-like element we've encountered so far is the possibility of divergence, in languages that permit fixed point combinators and so have the full power of recursion. What it means for something to be effect-like, and why this counts as an example of such, will emerge.
4
5 Other effect-like elements in a language include: printing (recall the [[damn]] example at the start of term); continuations (also foreshadowed in the [[damn]] example) and exceptions (foreshadowed in our discussion of abortable list traversals in [[week4]]); and **mutation**. This last notion is our topic this week.
6
7
8 ## Mutation##
9
10 What is mutation? It's helpful to build up to this in a series of fragments. For pedagogical purposes, we'll be using a made-up language that's syntactically similar to, but not quite the same as, OCaml.
11
12 Recall from earlier discussions that the following two forms are equivalent:
13
14         [A] let x be EXPRESSION in
15                   BODY
16
17                 (lambda (x) -> BODY) (EXPRESSION)
18
19 This should seem entirely familiar:
20
21         [B] let x be 1 + 2 in
22                   let y be 10 in
23                         (x + y, x + 20)
24                                                                 ; evaluates to (13, 23)
25
26 In fragment [B], we bound the variables `x` and `y` to `int`s. We can also bind variables to function values, as here:
27
28         [C] let f be (lambda (x, y) -> x + y + 1) in
29                   (f (10, 2), f (20, 2))
30                                                                 ; evaluates to (13, 23)
31
32 If the expression that evaluates to a function value has a free variable in it, like `y` in the next fragment, it's interpreted as bound to whatever value `y` has in the surrounding lexical context:
33
34         [D] let y be 3 in
35                   let f be (lambda (x) -> x + y) in
36                         (f (10), f (20))
37                                                                 ; evaluates to (13, 23)
38
39 Other choices about how to interpret free variables are also possible (you can read about "lexical scope" versus "dynamic scope"), but what we do here is the norm in functional programming languages, and seems to be easiest for programmers to reason about.
40
41 In our next fragment, we re-use a variable that had been bound to another value in a wider context:
42
43         [E] let x be 4 in
44                   let x be 3 in
45                         (x + 10, x + 20)
46                                                                 ; evaluates to (13, 23)
47
48 As you can see, the narrowest assignment is what's effective. This is just like in predicate logic: consider <code>&exist;x (Fx and &exist;x Gx)</code>. The computer-science terminology to describe this is that the narrower assignment of `x` to the value 3 **shadows** the wider assignment to 4.
49
50 I call attention to this because you might casually describe it as "changing the value that x is assigned to." What we'll go on to see is a more exotic phenomenon that merits that description better.
51
52 Sometimes the shadowing is merely temporary, as here:
53
54         [F] let y be 2 in
55                   let f be (lambda (x) ->
56                         let y be 3 in
57                           ; here the most local assignment to y applies
58                           x + y
59                   ) in
60                         ; here the assignment of 3 to y has expired
61                         (f (10), y, f (20))
62                                                                 ; evaluates to (13, 2, 23)
63
64 OK, now we're ready for our main event, **mutable variables.** We'll introduce new syntax to express an operation where we're not shadowing a wider assignment, but *changing* the original assignemnt:
65
66         [G] let y be 2 in
67                   let f be (lambda (x) ->
68                         change y to 3 then
69                           x + y
70                   ) in
71                         ; here the change in what value y was assigned *sticks*
72                         ; because we *updated* the value of the original variable y
73                         ; instead of introducing a new y with a narrower scope
74                         (f (10), y, f (19))
75                                                                 ; evaluates to (13, 3, 23)
76
77 In languages that have native syntax for this, there are two styles in which it can be expressed. The *implicit style* is exemplified in fragment [G] above, and also in languages like C:
78
79         {
80                 int y = 2;    // this is like "let y be 2 in ..."
81                 ...
82                 y = 3;        // this is like "change y to 3 then ..."
83                 return x + y; // this is like "x + y"
84         }
85
86 A different possibility is the *explicit style* for handling mutation. Here we explicitly create and refer to new "reference cells" to hold our values. When we change a variable's value, the variable stays associated with the same reference cell, but that reference cell's contents get modified. The same thing happens in the semantic machinery underlying implicit-style mutable variables, but there it's implicit. The reference cells aren't themselves explicitly referred to in the object language. In explicit-style mutation, they are. OCaml has explicit-style mutation. It looks like this:
87
88         let ycell = ref 2       (* this creates a new reference cell *)
89         ...
90         in let () = ycell := 3  (* this changes the contents of that cell to 3; the return value of doing so is () *)
91                                                         (* other return values could also be reasonable: such as the old value of ycell, the new value, an arbitrary int, and so on *)
92         in x + !ycell;;                 (* the !ycell operation "dereferences" the cell---it retrieves the value it contains *)
93
94 Scheme is similar. There are various sorts of reference cells available in Scheme. The one most like OCaml's `ref` is a `box`. Here's how we'd write the same fragment in Scheme:
95
96         (let ([ycell (box 2)])
97                 ...
98                 (set-box! ycell 3)
99                 (+ x (unbox ycell)))
100
101 When dealing with explicit-style mutation, there's a difference between the types and values of `ycell` and `!ycell` (or `(unbox ycell)`). The former has the type `int ref`: the variable `ycell` is assigned a reference cell that contains an `int`. The latter has the type `int`, and has whatever value is now stored in the relevant reference cell. In an implicit-style framework though, we only have the resources to refer to the contents of the relevant reference cell. `y` in fragment [G] or the C snippet above has the type `int`, and only ever evaluates to `int` values.
102
103
104 ##Controlling order##
105
106 When we're dealing with mutable variables (or any other kind of effect), order matters. For example, it would make a big difference whether I evaluated `let z = !ycell` before or after evaluating `ycell := !ycell + 1`. Before this point, order never mattered except sometimes it played a role in avoiding divergence.
107
108 OCaml does *not* guarantee what order expressions will be evaluated in arbitrary contexts. For example, in the following fragment, you cannot rely on `expression_a` being evaluated before `expression_b` before `expression_c`:
109
110         let triple = (expression_a, expression_b, expression_c)
111
112 OCaml does however guarantee that different let-expressions are evaluated in the order they lexically appear. So in the following fragment, `expression_a` *will* be evaluated before `expression_b` and that before `expression_c`:
113
114         let a = expression_a
115                 in let b = expression_b
116                         in expression_c
117
118 Scheme does the same. (*If* you use Scheme's `let*`, but not if you use its `let`. I agree this is annoying.)
119
120 If `expression_a` and `expression_b` evaluate to (), for instance if they're something like `ycell := !ycell + 1`, that can also be expressed in OCaml as:
121
122         let () = expression_a
123                 in let () = expression_b
124                         in expression_c
125
126 And OCaml has a syntactic shorthand for this form, namely to use semi-colons:
127
128         expression_a; expression_b; expression_c
129
130 This is not the same role that semi-colons play in list expressions, like `[1; 2; 3]`. To be parsed correctly, these semi-colon'ed complexes sometimes need to be enclosed in parentheses or a `begin ... end` construction:
131
132         (expression_a; expression_b; expression_c)
133
134         begin expression_a; expression_b; expression_c end
135
136 Scheme has a construction similar to the latter:
137
138         (begin (expression_a) (expression_b) (expression_c))
139
140 Though often in Scheme, the `(begin ...)` is implicit and doesn't need to be explicitly inserted, as here:
141
142         (lambda (x) (expression_a) (expression_b) (expression_c))
143
144 Another way to control evaluation order, you'll recall from [[week6]], is to use **thunks**. These are functions that only take the uninformative `()` as an argument, such as this:
145
146         let f () = ...
147
148 or this:
149
150         let f = fun () -> ...
151
152 In Scheme these are written as functions that take 0 arguments:
153
154         (lambda () ...)
155
156 or:
157
158         (define (f) ...)
159
160 How could such functions be useful? Well, as always, the context in which you build a function need not be the same as the one in which you apply it to some arguments. So for example:
161
162         let ycell = ref 1
163         in let f () = ycell := !ycell + 1
164         in let z = !ycell
165         in f ()
166         in z;;
167
168 We don't apply (or call or execute or however you want to say it) the function `f` until after we've extracted `ycell`'s value and assigned it to `z`. So `z` will get assigned 1. If on the other hand we called `f ()` before evaluating `let z = !ycell`, then `z` would have gotten assigned a different value.
169
170 In languages with mutable variables, the free variables in a function definition are usually taken to refer back to the same *reference cells* they had in their lexical contexts, and not just their original value. So if we do this for instance:
171
172         let factory (starting_value : int) =
173                 let free_var = ref starting_value
174                 in let getter () =
175                         !free_var
176                 in let setter (new_value : int) =
177                         free_var := new_value
178                 in (getter, setter)
179         in let (getter, setter) = factory 1
180         in let first = getter ()
181         in let () = setter 2
182         in let second = getter ()
183         in let () = setter 3
184         in let third = getter ()
185         in (first, second, third)
186         
187 At the end, we'll get `(1, 2, 3)`. The reference cell that gets updated when we call `setter` is the same one that gets fetched from when we call `getter`. This should seem very intuitive here, since we're working with explicit-style mutation. When working with a language with implicit-style mutation, it can be more surprising. For instance, here's the same fragment in Python, which has implicit-style mutation:
188
189         def factory (starting_value):
190                 free_var = starting_value
191                 def getter ():
192                         return free_var
193                 def setter (new_value):
194                         # the next line indicates that we're using the
195                         # free_var from the surrounding function, not
196                         # introducing a new local variable with the same name
197                         nonlocal free_var
198                         free_var = new_value
199                 return getter, setter
200         getter, setter = factory (1)
201         first = getter ()
202         setter (2)
203         second = getter ()
204         setter (3)
205         third = getter ()
206         (first, second, third)
207
208 Here, too, just as in the OCaml fragment, all the calls to getter and setter are working with a single mutable variable `free_var`.
209
210 If however you called `factory` twice, you'd have different `getter`/`setter` pairs, each of which had their own, independent `free_var`. In OCaml:
211
212         let factory (starting_val : int) =
213         ... (* as above *)
214         in let (getter, setter) = factory 1
215         in let (getter', setter') = factory 1
216         in let () = setter 2
217         in getter' ()
218
219 Here, the call to `setter` only mutated the reference cell associated with the `getter`/`setter` pair. The reference cell associated with `getter'` hasn't changed, and so `getter' ()` will still evaluate to 1.
220
221 Notice in these fragments that once we return from inside the call to `factory`, the `free_var` mutable variable is no longer accessible, except through the helper functions `getter` and `setter` that we've provided. This is another way in which a thunk like `getter` can be useful: it still has access to the `free_var` reference cell that was created when it was, because its free variables are interpreted relative to the context in which `getter` was built, even if that context is otherwise no longer accessible. What `getter ()` evaluates to, however, will very much depend on *when* we evaluate it---in particular, it will depend on which calls to the corresponding `setter` were evaluated first.
222
223 ##Referential opacity##
224
225 In addition to order-sensitivity, when you're dealing with mutable variables you also give up a property that computer scientists call "referential transparency." It's not obvious whether they mean exactly the same by that as philosophers and linguists do, or only something approximately the same. What they do mean is a kind of substitution principle, illustrated here:
226
227         let x = 1
228                 in (x, x)
229
230 should evaluate the same as:
231
232         let x = 1
233                 in (x, 1)
234
235 or:
236
237         (1, 1)
238
239 Notice, however, that when mutable variables are present, the same substitution patterns can't always be relied on:
240
241         let ycell = ref 1
242                 in ycell := 2; !ycell
243         (* evaluates to 2 *)
244
245         (ref 1) := 2; !(ref 1)
246         (* evaluates to 1 *)
247
248
249 ##How to implement explicit-style mutable variables##
250
251 We'll think about how to implement explicit-style mutation first. We suppose that we add some new syntactic forms to a language, let's call them `newref`, `deref`, and `setref`. And now we want to expand the semantics for the language so as to interpret these new forms.
252
253 Well, part of our semantic machinery will be an assignment function, call it `g`. Somehow we'd have to keep track of the types of the variables and values we're working with, but we won't pay much attention to that now. In fact, we won't even both much at this point with the assignment function. Below we'll pay more attention to it.
254
255 In addition to the assignment function, we'll also need a way to keep track of how many reference cells have been "allocated" (using `newref`), and what their current values are. We'll suppose all the reference cells are organized in a single data structure we'll call a **store**. This might be a big heap of memory. For our purposes, we'll suppose that reference cells only ever contain `int`s, and we'll let the store be a list of `int`s.
256
257 In many languages, including OCaml, the first position in a list is indexed `0`, the second is indexed `1` and so on. If a list has length 2, then there won't be any value at index `2`; that will be the "next free location" in the list.
258
259 Before we brought mutation on the scene, our language's semantics will have looked something like this:
260
261 >       \[[expression]]<sub>g</sub> = value
262
263 Now we're going to relativize our interpretations not only to the assignment function `g`, but also to the current store, which I'll label `s`. Additionally, we're going to want to allow that evaluating some functions might *change* the store, perhaps by allocating new reference cells or perhaps by updating the contents of some existing cells. So the interpretation of an expression won't just return a value; it will also return a possibly updated store. We'll suppose that our interpretation function does this quite generally, even though for many expressions in the language, the store that's returned will be the same one that the interpretation function started with:
264
265 >       \[[expression]]<sub>g s</sub> = (value, s')
266
267 With that kind of framework, we can interpret `newref`, `deref`, and `setref` as follows.
268
269 1.      \[[newref starting_val]] should allocate a new reference cell in the store and insert `starting_val` into that cell. It should return some "key" or "index" or "pointer" to the newly created reference cell, so that we can do things like:
270
271                 let ycell = newref 1
272                 in ...
273
274         and be able to refer back to that cell later by using the value that we assigned to the variable `ycell`. In our simple implementation, we're letting the store just be an `int list`, and we can let the "keys" be indexes in that list, which are just `int`s. Somehow we'd have to keep track of which variables are assigned `int`s as `int`s and which are assigned `int`s as indexes into the store. So we'll create a special type to wrap the latter:
275
276                 type store_index = Index of int;;
277                 
278                 let rec eval expression g s =
279                         match expression with
280                         ...
281                         | Newref expr ->
282                                 let (starting_val, s') = eval expr g s
283                                 (* note that s' may be different from s, if expr itself contained any mutation operations *)
284                                 (* now we want to retrieve the next free index in s' *)
285                                 in let new_index = List.length s'
286                                 (* now we want to insert starting_val there; the following is an easy but inefficient way to do it *)
287                                 in let s'' = List.append s' [starting_val]
288                                 (* now we return a pair of a wrapped new_index, and the new store *)
289                                 in (Index new_index, s'')
290                         ... 
291
292 2.      When `expr` evaluates to a `store_index`, then `deref expr` should evaluate to whatever value is at that index in the current store. (If `expr` evaluates to a value of another type, `deref expr` is undefined.) In this operation, we don't change the store at all; we're just reading from it. So we'll return the same store back unchanged.
293
294                 let rec eval expression g s =
295                         match expression with
296                         ...
297                         | Deref expr ->
298                                 let (Index n, s') = eval expr g s
299                                 (* note that s' may be different from s, if expr itself contained any mutation operations *)
300                                 in (List.nth s' n, s')
301                         ...
302
303 3.      When `expr1` evaluates to a `store_index` and `expr2` evaluates to an `int`, then `setref expr1 expr2` should have the effect of changing the store so that the reference cell at that index now contains that `int`. We have to make a decision about what value the `setref ...` call should itself evaluate to; OCaml makes this `()` but other choices are also possible. Here I'll just suppose we've got some appropriate value in the variable `dummy`.
304
305                 let rec eval expression g s =
306                         match expression with
307                         ...
308                         | Setref expr1 expr2
309                                 let (Index n, s') = eval expr1 g s
310                                 (* note that s' may be different from s, if expr itself contained any mutation operations *)
311                                 in let (new_value, s'') = eval expr2 g s'
312                                 (* now we create a list which is just like s'' except it has new_value in index n *)
313                                 in let rec replace_nth lst m =
314                                         match lst with
315                                         | [] -> failwith "list too short"
316                                         | x::xs when m = 0 -> new_value :: xs
317                                         | x::xs -> x :: replace_nth xs (m - 1)
318                                 in let s''' = replace_nth s'' n
319                                 in (dummy, s''')
320                         ...
321
322
323 ##How to implement implicit-style mutable variables##
324
325 With implicit-style mutation, we don't have new syntactic forms like `newref` and `deref`. Instead, we just treat ordinary variables as being mutable. You could if you wanted to have some variables be mutable and others not; perhaps the first sort are written in Greek and the second in Latin. But we will suppose all variables in our language are mutable.
326
327 We will still need a store to keep track of reference cells and their current values, just as in the explicit-style implementation. This time, every variable will be associated with an index into the store. So this is what we'll have our assignment function keep track of. The assignment function will bind variables to indexes into the store, rather than to the variables' current values. The variables will only indirectly be associated with those values by virtue of the joint work of the assignment function and the store.
328
329 This brings up an interesting conceptual novelty. Formerly, we'd naturally think that a variable `x` is associated with only one type, and that that's the type that the expression `x` would *evaluate to*, and also the type of value that the assignment function *bound* `x` to. However, in the current framework these two types can come apart. The assignment function binds `x` to an index into the store, and what the expression `x` evaluates to will be the value at that location in the store, which might be some other type, such as a `bool` or a `string`.
330
331 To handle implicit-style mutation, we'll need to re-implement the way we interpret expressions like `x`, `let x = expr1 in expr2`. We will have just one new syntactic form, `change x to expr1 then expr2`.
332
333 Here's how to implement these. We'll suppose that our assignment function is list of pairs, as in [week6](/reader_monad_for_variable_binding).
334
335         let rec eval expression g s =
336                 match expression with
337                 ...
338                 | Var (c : char) ->
339                         let index = List.assoc c g
340                         in List.nth s index
341
342                 | Let (c : char) expr1 expr2 ->
343                         let (starting_value, s') = eval expr1 g s
344                         (* get next free index in s' *)
345                         in let new_index = List.length s'
346                         (* insert starting_value there *)
347                         in let s'' = List.append s' [starting_value]
348                         (* evaluate expr2 using a new assignment function and store *)
349                         in eval expr2 ((c, new_index) :: g) s''
350
351                 | Change (c : char) expr1 expr2 ->
352                         let (new_value, s') = eval expr1 g s
353                         (* lookup which index is associated with Var c *)
354                         in let n = List.assoc c g
355                         (* now we create a list which is just like s' except it has new_value in index n *)
356                         in let rec replace_nth lst m =
357                                 match lst with
358                                 | [] -> failwith "list too short"
359                                 | x::xs when m = 0 -> new_value :: xs
360                                 | x::xs -> x :: replace_nth xs (m - 1)
361                         in let s'' = replace_nth s' n
362                         (* evaluate expr2 using original assignment function and new store *)
363                         in eval expr2 g s''
364
365
366 ##How to implicit mutation with a State monad##
367
368 It's possible to do all of this monadically, and so using a language's existing resources, instead of adding new syntactic forms and new interpretation rules to the semantics. The patterns we use to do this in fact closely mirror the machinery described above.
369
370 We call this a State monad. It's a lot like the Reader monad, except that with the Reader monad, we could only read from the environment. We did have the possibility of interpreting sub-expressions inside a "shifted" environment, but as you'll see, that corresponds to the "shadowing" behavior described before, not to the mutation behavior that we're trying to implement now.
371
372 With a State monad, we call our book-keeping apparatus a "state" or "store" instead of an evironment, and this time we are able to both read from it and write to it. To keep things simple, we'll work here with the simplest possible kind of store, which only holds a single value. One could also have stores that were composed of a list of values, of a length that could expand or shrink, or even more complex structures.
373
374 Here's the implementation of the State monad, together with an implementation of the Reader monad for comparison:
375
376         type env = (char * int) list;;
377         (* alternatively, an env could be implemented as type char -> int *)
378
379         type 'a reader = env -> 'a;;
380         let unit_reader (value : 'a) : 'a reader =
381                 fun e -> value;;
382         let bind_reader (u : 'a reader) (f : 'a -> 'b reader) : 'b reader =
383                 fun e -> let a = u e
384                                  in let u' = f a
385                                  in u' e;;
386
387         type store = int;;
388         (* very simple store, holds only a single int *)
389         (* this corresponds to having only a single mutable variable *)
390
391         type 'a state = store -> ('a, store);;
392         let unit_state (value : 'a) : 'a state =
393                 fun s -> (value, s);;
394         let bind_state (u : 'a state) (f : 'a -> 'b state) : 'b state =
395                 fun s -> let (a, s') = u s
396                                  in let u' = f a
397                                  in u' s';;
398
399 Notice the similarities (and differences) between the implementation of these two monads.
400
401 With the Reader monad, we also had some special-purpose operations, beyond its general monadic operations. These were `lookup` and `shift`. With the State monad, we'll also have some special-purpose operations. We'll consider two basic ones here. One will be to retrieve what is the current store. This is like the Reader monad's `lookup`, except in this simple implementation there's only a single location for a value to be looked up from. Here's how we'll do it:
402
403         let get_state : 'a -> store state =
404                 fun _ ->
405                         fun s -> (s, s);;
406
407 This passes through the current store unaltered, and also returns a copy of the store as its value. Note the beginning `fun _ ->` part. That's so we can use this operation like this:
408
409         some_existing_state_monad >>= get_state >>= (fun cur_state -> ...)
410
411 The `get_state` operation ignores the value wrapped by `some_existing_state_monad`. It just passes through whatever store is generated by `some_existing_state_monad`. It also wraps that store as its own value, which can be retrieved by further operations in the `... >>= ...` chain, such as the `(fun cur_state -> ...)`.
412
413 The other operation for the state monad will be to update the existing store to a new one. This operation looks like this:
414
415         let set_state (value : int) : 'a -> dummy state =
416                 fun s -> (dummy, value);;
417
418 If we want to stick this in a `... >>= ...` chain, we'll need to prefix it with `fun _ ->` too, like this:
419
420         some_existing_state_monad >>= fun _ -> set_state 100 >>= ...
421
422 In this kind of usage, we don't care what value is wrapped by `some_existing_state_monad`. We don't even care what store it generates, since we're going to replace that store with our own new store. A more complex kind of `set_state` or `update_state` operation might use as a new store not just some constant value, but rather something which is the result of applying some function to the existing store. For example, we might want to increment the current store. Here's how we could do that:
423
424         some_existing_state_monad >>= get_state >>= (fun cur_state -> set_state (cur_state + 1) >>= ...
425
426 We can of course define more complex functions that perform the `get_state >>= (fun cur_state -> set_state (cur_state + 1)` as a single operation.
427
428 In general, a State monadic value (what appears at the start of a `... >>= ... >>= ...` chain) is an operation that accepts some starting store as input---where the store might be simple as it is here, or much more complex---and returns a value plus a possibly modified store. This can be thought of as an encoding of a operation on the store as a box wrapped around a value.
429
430 State monadic operations (what appears anywhere in the middle or end of a `... >>= ... >>= ...` chain) are operations that generate new State monadic values, based on what value was wrapped by the preceding elements in the `... >>= ... >>= ...` chain. The computations on the store that these encode (which their values may or may not be sensitive to) will be chained in the order given by their position in the `... >>= ... >>= ...` chain. That is, the computation encoded by the first element in the chain will accept a starting store s0 as input, and will return (a value and) a new store s1 as output, the next computation will get s1 as input and will return s2 as output, the next computation will get s2 as input, ... and so on.
431
432 To get the whole process started, the complex computation so defined will need to be given a starting store. So we'd need to do something like this:
433
434         let computation = some_state_monadic_value >>= operation >>= operation
435         in computation initial_store;;
436
437
438
439 ##Aliasing or Passing by reference##
440
441 -- FIXME --
442
443     [H] ; *** aliasing ***
444         let y be 2 in
445           let x be y in
446             let w alias y in
447               (y, x, w)           ==> (2, 2, 2)
448
449     [I] ; mutation plus aliasing
450         let y be 2 in
451           let x be y in
452             let w alias y in
453               change y to 3 then
454                 (y, x, w)         ==> (3, 2, 3)
455
456     [J] let f be (lambda (y) -> BODY) in  ; a
457           ... f (EXPRESSION) ...
458
459         (lambda (y) -> BODY) EXPRESSION
460
461         let y be EXPRESSION in            ; b
462           ... BODY ...
463
464     [K] ; *** passing "by reference" ***
465         let f be (lambda (alias w) ->     ; ?
466           BODY
467         ) in
468           ... f (y) ...
469
470         let w alias y in                  ; d
471           ... BODY ...
472
473     [L] let f be (lambda (alias w) ->
474           change w to 2 then
475             w + 2
476         ) in
477           let y be 1 in
478             let z be f (y) in
479               ; y is now 2, not 1
480               (z, y)              ==> (4, 2)
481
482     [M] ; hyper-evaluativity
483         let h be 1 in
484           let p be 1 in
485             let f be (lambda (alias x, alias y) ->
486               ; contrast here: "let z be x + y + 1"
487               change y to y + 1 then
488                 let z be x + y in
489                   change y to y - 1 then
490                     z
491             ) in
492               (f (h, p), f (h, h))
493                                   ==> (3, 4)
494
495     Notice: h, p have same value (1), but f (h, p) and f (h, h) differ
496
497
498 ##Five grades of mutation involvement##
499
500 -- FIXME --
501
502     0. Purely functional languages
503     1. Passing by reference
504        need primitive hyper-evaluative predicates for it to make a difference
505     2. mutable variables
506     3. mutable values
507         - numerically distinct but indiscernible values
508         - two equality predicates
509         - examples: closures with currently-indiscernible but numerically distinct
510           environments, mutable lists
511     4. "references" as first-class values
512         - x not the same as !x, explicit deref operation
513         - can not only be assigned and passed as arguments, also returned (and manipulated?)
514         - can be compared for qualitative equality
515     5. structured references
516         (a) if `a` and `b` are mutable variables that uncoordinatedly refer to numerically the same value
517             then mutating `b` won't affect `a` or its value
518         (b) if however their value has a mutable field `f`, then mutating `b.f` does
519             affect their shared value; will see a difference in what `a.f` now evaluates to
520
521
522 ##Miscellany##
523
524 *       When using mutable variables, programmers will sometimes write using *loops* that repeatedly mutate a variable, rather than the recursive techniques we've been using so far. For example, we'd define the factorial function like this:
525
526                 let rec factorial n =
527                         if n = 0 then 1 else n * factorial (n - 1)
528
529         or like this:
530
531                 let factorial n =
532                         let rec helper n sofar =
533                                 if n = 0 then sofar else helper (n - 1) (n * sofar)
534                         in helper n 1
535
536         (The second version is more efficient than the first; so you may sometimes see this programming style. But for our purposes, these can be regarded as equivalent.)
537
538         When using mutable variables, on the other hand, this may be written as:
539
540                 let factorial n =
541                         let current = ref n
542                         in let total = ref 1
543                         in while !current > 0 do
544                                 total := !total * !current; current := !current - 1
545                         done; !total
546
547
548 *       Mutable variables also give us a way to achieve recursion, in a language that doesn't already have it. For example:
549
550                 let fact_cell = ref None
551                 in let factorial n =
552                         if n = 0 then 1 else match !fact_cell with
553                                 | Some fact -> n * fact (n - 1)
554                                 | None -> failwith "can't happen"
555                 in let () = fact_cell := Some factorial
556                 in ...
557
558         We use the `None`/`Some factorial` option type here just as a way to ensure that the contents of `fact_cell` are of the same type both at the start and the end of the block.
559
560
561 <!--
562 Fine and Pryor on "coordinated contents" (see, e.g., [Hyper-Evaluativity](http://www.jimpryor.net/research/papers/Hyper-Evaluativity.txt))
563 -->
564