L00a-ProbabilityFoundations

%23%20%2F%2F%2F%20script%0A%23%20requires-python%20%3D%20%22%3E%3D3.12%22%0A%23%20dependencies%20%3D%20%5B%0A%23%20%20%20%20%20%22numpy%22%2C%0A%23%20%20%20%20%20%22scipy%22%2C%0A%23%20%20%20%20%20%22matplotlib%22%2C%0A%23%20%20%20%20%20%22marimo%22%2C%0A%23%20%20%20%20%20%22mograder%22%2C%0A%23%20%5D%0A%23%20%2F%2F%2F%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.23.2%22%0Aapp%20%3D%20marimo.App()%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20return%20(mo%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20from%20mograder.runtime%20import%20check%2C%20hint%0A%20%20%20%20from%20mograder.transport.workshop%20import%20reveal_solution%2C%20fetch_released_keys%0A%0A%20%20%20%20return%20check%2C%20fetch_released_keys%2C%20hint%2C%20reveal_solution%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20import%20scipy.stats%20as%20stats%0A%20%20%20%20import%20matplotlib.pyplot%20as%20plt%0A%20%20%20%20from%20scipy.special%20import%20erf%0A%20%20%20%20plt.rcParams.update(%7B'font.size'%3A%2014%2C%20'axes.labelsize'%3A%2014%2C%20'figure.figsize'%3A%20(10%2C%205)%7D)%0A%20%20%20%20return%20erf%2C%20np%2C%20plt%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_()%3A%0A%20%20%20%20%23%20%3D%3D%3D%20MOGRADER%3A%20EXERCISES%20%3D%3D%3D%0A%20%20%20%20EXERCISES%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22Q1%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22solution%22%3A%20%22HUVJUwoHCREHXQwdAQMbARRbBAoXThhfSBYXEhUWVQdUXlkSQW8GFg0GGgtUHQldBQAVHVEGRhcCAFEAAR8RThdaQQ%3D%3D%22%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22Q2%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22solution%22%3A%20%22NxMREAoeSFhUHQldHgAXBxYBAR8RWwoSBRUYFhQWCQtdeSYdG0VJUxcDRgQGEhcUDU1FQ1VTWlVEX1lBWEx%2BLA8SGgwVHRoWG0VJUyIuYgMbAVksBkUdHVksBhZOeVlTSEUrABgeGAkRAFlOSDoCFhoABU0rHVlZSAsEXRYdDRZcQklDWElUFw0KGABJGhcHQUlUXkhdWElUQldDQW9UU1lTNxMVARASBgYRAFcSGBURHR1bBhVaBRgBQDoHEhQDBAAHWlB5YhRGLB8aD0lULBgLSFhUAxUHRhYBEQkfBxEHW1B5NwQMXRUcDwkbFFEsBhZYUyYFCRcdEhcQDRZYU14cT0lUHxgRDQlJVDocBRUBBxwXSBMVARASBgYRVFB5NwQMXRUcDwkbFFEsBhZYU0hTR0VcQFlZSDoaAFBfSEJZXl5fSAkVERwfVRdTMhcSBBwAGhoSBF9UV1ERRQRdLUtcQFRGHVBXT0x%2BLBgLRhYRB1ELBAQWFhVOT0EaV15fSBwYEhsWBFgGVF0vBQQAGwseEzMVAQQoNAcVAQIrFThQVFB5NwQMXRUWDwAaF1Fa%22%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%22Q3%22%3A%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22solution%22%3A%20%22DAASUwoSBRUYFhoXDk0CX1kLQV9%2BU1lTSBcRBwwBBkUaA1cSGhcVClEoBhVaHhwSBk0CU0VTEAxdUx8cGkUMGlkaBkUMLlB5YjoCFhoABUVJUxcDRhMREA0cGgwOFlEACQgEHxweDQQaWnMsGwQZAxUWG0VJUyYFDQYHHlFBWFVUWVkdGEsbHRwAQFREQ0lfSAEACgkWVQwaB1BfSEhFXUlfSFRaQ1B5Nx1UTlkdGEsYGhcAGAQXFlFeWEtGX1lDRldYU0tDWEx%2BeQhANwMdFFVTNwQMU0RTGAkAXQoGChUYHA0AQEx%2BLBgLRhUYHA1bNx1YUwoSBRUYFhoXDk0rABgeGAkRAFVTNx1dX1kfCQcRH0RUOwQZAxUWSCYwNV5aYjoVC1cDBAoAWyYLREVEXUxTQkVcQllYSAAGFVEsEEVeUxcDRhYFAQ1bWlVEU1NTW0xdWlVTT0hZVFV5SEVUU1lTSEVUHxgRDQlJAV5XNAgVBxEQCQkPPQRbWElUQlZbWVdULxoXBxFUQUlDQUxQUzo3LkJdeSYSEEsHFg1bEAkVERwfVRdTVyURCRcPKwRXT0lUChUSCgAYTl4wHQgBHxgHARMRUwkBBwcVERAfARENVFB5NwQMXRUWDwAaF1Fa%22%0A%20%20%20%20%20%20%20%20%7D%0A%20%20%20%20%7D%0A%20%20%20%20SALT_HASH%20%3D%20'43242f7d338f5c5e0464c71eeeafece77f29b62656b8b38fc4617593f812ef1c'%0A%20%20%20%20KEYS_URL%20%3D%20'https%3A%2F%2Fsciml.warwick.ac.uk%2Fworkshops%2FL00a%2Fkeys.json'%0A%20%20%20%20return%20EXERCISES%2C%20KEYS_URL%2C%20SALT_HASH%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%20Lecture%200a%3A%20Probability%20Foundations%0A%0A%20%20%20%20**Pre-course%20induction%20material**%20%E2%80%94%20self-paced%2C%20to%20be%20completed%20before%20the%20start%20of%20term.%0A%0A%20%20%20%20**James%20Kermode%20and%20Tom%20Hudson**%20%3Cbr%3E%0A%20%20%20%20University%20of%20Warwick%0A%0A%20%20%20%20%23%23%20Objectives%0A%0A%20%20%20%20-%20Understand%20probability%20axioms%2C%20conditional%20probability%2C%20Bayes'%20rule%20and%20independence%0A%20%20%20%20-%20Know%20the%20definitions%20of%20random%20variables%2C%20CDF%2C%20PDF%2C%20expectation%2C%20variance%2C%20and%20moments%0A%20%20%20%20-%20Be%20familiar%20with%20standard%20named%20distributions%20(Gaussian%2C%20Uniform%2C%20Exponential%2C%20Bernoulli%2C%20Binomial)%0A%20%20%20%20-%20Demonstrate%20the%20Central%20Limit%20Theorem%20numerically%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20What%20is%20Uncertainty%3F%0A%0A%20%20%20%20-%20Our%20mathematical%20modelling%20of%20the%20world%20is%20based%20on%20mathematical%20equations%20which%20relate%20some%20*inputs*%20to%20some%20*outputs*.%20For%20example%2C%20classical%20mechanics%20tells%20us%20that%20a%20projectile's%20trajectory%20can%20be%20predicted%20exactly%20from%20initial%20conditions%20plus%20gravitational%20acceleration.%0A%0A%20%20%20%20-%20Uncertainty%20arises%20when%20input%20quantities%20are%20not%20known%20precisely%3A%20there%20may%20be%20measurement%20errors%2C%20natural%20variability%2C%20or%20limited%20knowledge.%0A%0A%20%20%20%20-%20**Probability**%20provides%20the%20language%20for%20quantifying%20and%20reasoning%20about%20uncertainty.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Probability%0A%0A%20%20%20%20-%20The%20probability%20of%20an%20*event*%20%24A%24%20is%20a%20number%20%24%5Cmathbb%7BP%7D%5BA%5D%24%20which%20describes%20how%20likely%20the%20event%20is%20to%20occur.%0A%0A%20%20%20%20-%20A%20probability%20measure%20%24%5Cmathbb%7BP%7D%24%20satisfies%20three%20axioms%3A%0A%0A%20%20%20%201.%20%24%5Cmathbb%7BP%7D%5BA%5D%20%5Cgeq%200%24%20for%20all%20events%20%24A%24%0A%20%20%20%202.%20%24%5Cmathbb%7BP%7D%5B%5COmega%5D%20%3D%201%24%20where%20%24%5COmega%24%20is%20the%20*sample%20space*%20(the%20set%20of%20all%20possible%20outcomes)%0A%20%20%20%203.%20For%20mutually%20exclusive%20events%20%24A%24%20and%20%24B%24%20(i.e.%20%24A%20%5Ccap%20B%20%3D%20%5Cemptyset%24)%2C%20%24%5Cmathbb%7BP%7D%5BA%20%5Ccup%20B%5D%20%3D%20%5Cmathbb%7BP%7D%5BA%5D%20%2B%20%5Cmathbb%7BP%7D%5BB%5D%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Rules%20for%20probability%20measures%0A%0A%20%20%20%20From%20these%20axioms%2C%20we%20can%20derive%20useful%20rules%3A%0A%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5BA%5Ec%5D%20%3D%201%20-%20%5Cmathbb%7BP%7D%5BA%5D%24%20where%20%24A%5Ec%24%20is%20the%20complement%20of%20%24A%24%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5B%5Cemptyset%5D%20%3D%200%24%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5BA%20%5Ccup%20B%5D%20%3D%20%5Cmathbb%7BP%7D%5BA%5D%20%2B%20%5Cmathbb%7BP%7D%5BB%5D%20-%20%5Cmathbb%7BP%7D%5BA%20%5Ccap%20B%5D%24%20(inclusion-exclusion)%0A%20%20%20%20-%20%240%20%5Cleq%20%5Cmathbb%7BP%7D%5BA%5D%20%5Cleq%201%24%20for%20all%20events%20%24A%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Conditional%20probability%0A%0A%20%20%20%20The%20probability%20of%20event%20%24A%24%20given%20that%20event%20%24B%24%20has%20occurred%20is%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5BA%7CB%5D%20%3D%20%5Cfrac%7B%5Cmathbb%7BP%7D%5BA%20%5Ccap%20B%5D%7D%7B%5Cmathbb%7BP%7D%5BB%5D%7D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20provided%20%24%5Cmathbb%7BP%7D%5BB%5D%20%3E%200%24.%0A%0A%20%20%20%20We%20can%20rearrange%20to%20get%20the%20*multiplication%20rule*%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5BA%20%5Ccap%20B%5D%20%3D%20%5Cmathbb%7BP%7D%5BA%7CB%5D%20%5Ccdot%20%5Cmathbb%7BP%7D%5BB%5D%0A%20%20%20%20%24%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Bayes'%20Rule%0A%0A%20%20%20%20Using%20the%20multiplication%20rule%20and%20the%20law%20of%20total%20probability%2C%20we%20obtain%20**Bayes'%20rule**%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5BA%7CB%5D%20%3D%20%5Cfrac%7B%5Cmathbb%7BP%7D%5BB%7CA%5D%20%5Ccdot%20%5Cmathbb%7BP%7D%5BA%5D%7D%7B%5Cmathbb%7BP%7D%5BB%5D%7D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20This%20is%20fundamental%20to%20Bayesian%20inference%2C%20which%20we%20will%20use%20extensively%20in%20this%20module.%20The%20terms%20have%20specific%20names%3A%0A%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5BA%5D%24%20is%20the%20**prior**%20%E2%80%94%20our%20belief%20about%20%24A%24%20before%20observing%20%24B%24%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5BB%7CA%5D%24%20is%20the%20**likelihood**%20%E2%80%94%20the%20probability%20of%20observing%20%24B%24%20given%20%24A%24%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5BA%7CB%5D%24%20is%20the%20**posterior**%20%E2%80%94%20our%20updated%20belief%20about%20%24A%24%20after%20observing%20%24B%24%0A%20%20%20%20-%20%24%5Cmathbb%7BP%7D%5BB%5D%24%20is%20the%20**evidence**%20%E2%80%94%20a%20normalising%20constant%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20An%20example%3A%20Medical%20testing%0A%0A%20%20%20%20Suppose%20a%20disease%20affects%201%20in%201000%20people.%20A%20test%20for%20the%20disease%20has%3A%0A%20%20%20%20-%20**Sensitivity**%20(true%20positive%20rate)%3A%20%24%5Cmathbb%7BP%7D%5B%2B%7CD%5D%20%3D%200.70%24%0A%20%20%20%20-%20**Specificity**%20(true%20negative%20rate)%3A%20%24%5Cmathbb%7BP%7D%5B-%7CW%5D%20%3D%200.95%24%0A%0A%20%20%20%20If%20the%20test%20comes%20back%20positive%2C%20what%20is%20the%20probability%20that%20you%20actually%20have%20the%20disease%3F%0A%0A%20%20%20%20Using%20Bayes'%20rule%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5BD%7C%2B%5D%20%3D%20%5Cfrac%7B%5Cmathbb%7BP%7D%5B%2B%7CD%5D%20%5Ccdot%20%5Cmathbb%7BP%7D%5BD%5D%7D%7B%5Cmathbb%7BP%7D%5B%2B%5D%7D%20%3D%20%5Cfrac%7B0.70%20%5Ctimes%200.001%7D%7B0.70%20%5Ctimes%200.001%20%2B%200.05%20%5Ctimes%200.999%7D%20%5Capprox%201.4%5C%25%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Even%20with%20a%20positive%20test%2C%20there's%20only%20a%20~1.4%25%20chance%20of%20having%20the%20disease!%20This%20is%20because%20the%20disease%20is%20so%20rare%20that%20false%20positives%20dominate.%0A%0A%20%20%20%20Use%20the%20sliders%20below%20to%20explore%20how%20changing%20the%20test%20parameters%20affects%20the%20posterior%3A%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20sensitivity%20%3D%20mo.ui.slider(0.5%2C%201.0%2C%20step%3D0.01%2C%20value%3D0.70%2C%20label%3D%22Sensitivity%20P(%2B%7CD)%22)%0A%20%20%20%20specificity%20%3D%20mo.ui.slider(0.5%2C%201.0%2C%20step%3D0.01%2C%20value%3D0.95%2C%20label%3D%22Specificity%20P(-%7CW)%22)%0A%20%20%20%20prior_fraction%20%3D%20mo.ui.slider(5%2C%201000%2C%20step%3D5%2C%20value%3D1000%2C%20label%3D%221%20in%20N%20affected%22)%0A%20%20%20%20mo.vstack(%5Bsensitivity%2C%20specificity%2C%20prior_fraction%5D)%0A%20%20%20%20return%20prior_fraction%2C%20sensitivity%2C%20specificity%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20prior_fraction%2C%20sensitivity%2C%20specificity)%3A%0A%20%20%20%20_sens%20%3D%20sensitivity.value%0A%20%20%20%20_spec%20%3D%20specificity.value%0A%20%20%20%20_p_D%20%3D%201.0%20%2F%20prior_fraction.value%0A%20%20%20%20_p_W%20%3D%201.0%20-%20_p_D%0A%0A%20%20%20%20_p_pos_D%20%3D%20_sens%0A%20%20%20%20_p_pos_W%20%3D%201.0%20-%20_spec%0A%20%20%20%20_p_pos%20%3D%20_p_pos_D%20*%20_p_D%20%2B%20_p_pos_W%20*%20_p_W%0A%0A%20%20%20%20_p_D_pos%20%3D%20_p_pos_D%20*%20_p_D%20%2F%20_p_pos%0A%20%20%20%20_p_W_pos%20%3D%20_p_pos_W%20*%20_p_W%20%2F%20_p_pos%0A%0A%20%20%20%20_p_neg%20%3D%201.0%20-%20_p_pos%0A%20%20%20%20_p_D_neg%20%3D%20(1.0%20-%20_sens)%20*%20_p_D%20%2F%20_p_neg%0A%20%20%20%20_p_W_neg%20%3D%20_spec%20*%20_p_W%20%2F%20_p_neg%0A%0A%20%20%20%20mo.md(f%22%22%22%0A%20%20%20%20%7C%20%7C%20Probability%20%7C%0A%20%20%20%20%7C---%7C---%7C%0A%20%20%20%20%7C%20Prior%20P(D)%20%7C%20%7B_p_D*100%3A.2f%7D%25%20%7C%0A%20%20%20%20%7C%20P(%2B)%20%7C%20%7B_p_pos*100%3A.2f%7D%25%20%7C%0A%20%20%20%20%7C%20**True%20positive%20P(D%20given%20%2B)**%20%7C%20**%7B_p_D_pos*100%3A.1f%7D%25**%20%7C%0A%20%20%20%20%7C%20False%20positive%20P(W%20given%20%2B)%20%7C%20%7B_p_W_pos*100%3A.1f%7D%25%20%7C%0A%20%20%20%20%7C%20False%20negative%20P(D%20given%20%E2%88%92)%20%7C%20%7B_p_D_neg*100%3A.1f%7D%25%20%7C%0A%20%20%20%20%7C%20True%20negative%20P(W%20given%20%E2%88%92)%20%7C%20%7B_p_W_neg*100%3A.1f%7D%25%20%7C%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Independence%0A%0A%20%20%20%20An%20event%20%24A%24%20is%20independent%20of%20an%20event%20%24B%24%20if%20knowledge%20of%20%24B%24%20doesn't%20affect%20the%20probability%20of%20%24A%24%20occurring%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5BA%7CB%5D%20%3D%20%5Cmathbb%7BP%7D%5BA%5D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Equivalently%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5BA%20%5Ccap%20B%5D%20%3D%20%5Cmathbb%7BP%7D%5BA%5D%20%5Ctimes%20%5Cmathbb%7BP%7D%5BB%5D%0A%20%20%20%20%24%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Random%20Variables%0A%0A%20%20%20%20A%20**random%20variable**%20%24X%24%20is%20a%20function%20which%20assigns%20a%20real%20number%20to%20each%20possible%20outcome%20in%20the%20sample%20space%20%24%5COmega%24.%20We%20write%20%24X%20%3A%20%5COmega%20%5Cto%20%5Cmathbb%7BR%7D%24.%0A%0A%20%20%20%20Random%20variables%20can%20be%20**discrete**%20(taking%20countably%20many%20values)%20or%20**continuous**%20(taking%20values%20in%20an%20interval%20or%20all%20of%20%24%5Cmathbb%7BR%7D%24).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20The%20Cumulative%20Distribution%20Function%20(CDF)%0A%0A%20%20%20%20The%20CDF%20of%20a%20random%20variable%20%24X%24%20is%20the%20function%0A%0A%20%20%20%20%24%24%0A%20%20%20%20F_X(x)%20%3D%20%5Cmathbb%7BP%7D%5BX%20%5Cleq%20x%5D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Properties%3A%0A%20%20%20%20-%20%24F_X%24%20is%20non-decreasing%0A%20%20%20%20-%20%24%5Clim_%7Bx%5Cto-%5Cinfty%7D%20F_X(x)%20%3D%200%24%20and%20%24%5Clim_%7Bx%5Cto%2B%5Cinfty%7D%20F_X(x)%20%3D%201%24%0A%20%20%20%20-%20%24F_X%24%20is%20right-continuous%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20The%20Probability%20Density%20Function%20(PDF)%0A%0A%20%20%20%20For%20a%20continuous%20random%20variable%2C%20the%20PDF%20is%20the%20derivative%20of%20the%20CDF%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20f_X(x)%20%3D%20%5Cfrac%7B%5Cmathrm%7Bd%7DF_X%7D%7B%5Cmathrm%7Bd%7Dx%7D(x)%0A%20%20%20%20%24%24%0A%0A%20%20%20%20The%20probability%20that%20%24X%24%20lies%20in%20an%20interval%20%24%5Ba%2C%20b%5D%24%20is%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BP%7D%5Ba%20%5Cleq%20X%20%5Cleq%20b%5D%20%3D%20%5Cint_a%5Eb%20f_X(x)%5C%2C%5Cmathrm%7Bd%7Dx%20%3D%20F_X(b)%20-%20F_X(a)%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Note%3A%20%24f_X(x)%20%5Cgeq%200%24%20and%20%24%5Cint_%7B-%5Cinfty%7D%5E%7B%5Cinfty%7D%20f_X(x)%5C%2C%5Cmathrm%7Bd%7Dx%20%3D%201%24%2C%20but%20%24f_X(x)%24%20can%20be%20greater%20than%201!%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Statistics%20of%20Random%20Variables%0A%0A%20%20%20%20%23%23%23%20Expectation%20(or%20Mean)%0A%0A%20%20%20%20The%20expectation%20of%20a%20continuous%20random%20variable%20%24X%24%20is%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BE%7D%5BX%5D%20%3D%20%5Cint_%7B-%5Cinfty%7D%5E%7B%5Cinfty%7D%20x%5C%2C%20f_X(x)%5C%2C%5Cmathrm%7Bd%7Dx%0A%20%20%20%20%24%24%0A%0A%20%20%20%20More%20generally%2C%20for%20a%20function%20%24g(X)%24%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BE%7D%5Bg(X)%5D%20%3D%20%5Cint_%7B-%5Cinfty%7D%5E%7B%5Cinfty%7D%20g(x)%5C%2C%20f_X(x)%5C%2C%5Cmathrm%7Bd%7Dx%0A%20%20%20%20%24%24%0A%0A%20%20%20%20%23%23%23%20Variance%20and%20Standard%20Deviation%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathrm%7BVar%7D%5BX%5D%20%3D%20%5Cmathbb%7BE%7D%5B(X%20-%20%5Cmathbb%7BE%7D%5BX%5D)%5E2%5D%20%3D%20%5Cmathbb%7BE%7D%5BX%5E2%5D%20-%20(%5Cmathbb%7BE%7D%5BX%5D)%5E2%0A%20%20%20%20%24%24%0A%0A%20%20%20%20The%20standard%20deviation%20is%20%24%5Csigma_X%20%3D%20%5Csqrt%7B%5Cmathrm%7BVar%7D%5BX%5D%7D%24.%0A%0A%20%20%20%20%23%23%23%20Linearity%20of%20expectation%0A%0A%20%20%20%20%24%5Cmathbb%7BE%7D%5BaX%20%2B%20bY%5D%20%3D%20a%5Cmathbb%7BE%7D%5BX%5D%20%2B%20b%5Cmathbb%7BE%7D%5BY%5D%24%20for%20any%20constants%20%24a%2C%20b%24%20and%20random%20variables%20%24X%2C%20Y%24.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Named%20Distributions%0A%0A%20%20%20%20%23%23%23%20Uniform%20distribution%0A%0A%20%20%20%20%24U%20%5Csim%20%5Cmathrm%7BUniform%7D(a%2C%20b)%24%20has%20PDF%20%24f_U(u)%20%3D%20%5Cfrac%7B1%7D%7Bb-a%7D%24%20for%20%24a%20%5Cleq%20u%20%5Cleq%20b%24%2C%20zero%20otherwise.%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BE%7D%5BU%5D%20%3D%20%5Cfrac%7Ba%2Bb%7D%7B2%7D%2C%20%5Cquad%20%5Cmathrm%7BVar%7D%5BU%5D%20%3D%20%5Cfrac%7B(b-a)%5E2%7D%7B12%7D%0A%20%20%20%20%24%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Gaussian%20(Normal)%20distribution%0A%0A%20%20%20%20%24X%20%5Csim%20%5Cmathcal%7BN%7D(%5Cmu%2C%20%5Csigma%5E2)%24%20has%20PDF%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20f_X(x)%20%3D%20%5Cfrac%7B1%7D%7B%5Csigma%5Csqrt%7B2%5Cpi%7D%7D%20%5Cexp%5Cleft(-%5Cfrac%7B(x%20-%20%5Cmu)%5E2%7D%7B2%5Csigma%5E2%7D%5Cright)%0A%20%20%20%20%24%24%0A%0A%20%20%20%20The%20CDF%20involves%20the%20error%20function%3A%20%24F_X(x)%20%3D%20%5Cfrac%7B1%7D%7B2%7D%5Cleft(1%20%2B%20%5Cmathrm%7Berf%7D%5Cleft(%5Cfrac%7Bx-%5Cmu%7D%7B%5Csigma%5Csqrt%7B2%7D%7D%5Cright)%5Cright)%24%0A%0A%20%20%20%20Gaussian%20random%20variables%20are%20ubiquitous%20because%20of%20the%20**Central%20Limit%20Theorem**%20(see%20exercises%20below).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(erf%2C%20np%2C%20plt)%3A%0A%20%20%20%20_t%20%3D%20np.linspace(-10%2C%2010%2C%20500)%0A%20%20%20%20_fig%2C%20(_ax1%2C%20_ax2)%20%3D%20plt.subplots(1%2C%202)%0A%20%20%20%20for%20_mu%2C%20_sigma%20in%20%5B(0%2C%201)%2C%20(0%2C%202)%2C%20(0%2C%204)%5D%3A%0A%20%20%20%20%20%20%20%20_pdf%20%3D%20np.exp(-(_t%20-%20_mu)**2%20%2F%20(2%20*%20_sigma**2))%20%2F%20(_sigma%20*%20np.sqrt(2%20*%20np.pi))%0A%20%20%20%20%20%20%20%20_cdf%20%3D%200.5%20*%20(1%20%2B%20erf((_t%20-%20_mu)%20%2F%20(_sigma%20*%20np.sqrt(2))))%0A%20%20%20%20%20%20%20%20_ax1.plot(_t%2C%20_pdf%2C%20label%3Drf'%24%5Cmathcal%7B%7BN%7D%7D(%7B_mu%7D%2C%20%7B_sigma%7D%5E2)%24')%0A%20%20%20%20%20%20%20%20_ax2.plot(_t%2C%20_cdf%2C%20label%3Drf'%24%5Cmathcal%7B%7BN%7D%7D(%7B_mu%7D%2C%20%7B_sigma%7D%5E2)%24')%0A%20%20%20%20_ax1.set(xlabel%3D'%24x%24'%2C%20ylabel%3D'%24f_X(x)%24'%2C%20title%3D'PDF')%0A%20%20%20%20_ax2.set(xlabel%3D'%24x%24'%2C%20ylabel%3D'%24F_X(x)%24'%2C%20title%3D'CDF')%0A%20%20%20%20_ax1.legend()%3B%20_ax2.legend()%3B%20_ax1.grid()%3B%20_ax2.grid()%0A%20%20%20%20plt.tight_layout()%0A%20%20%20%20_fig%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Exponential%20distribution%0A%0A%20%20%20%20%24T%20%5Csim%20%5Cmathrm%7BExponential%7D(%5Clambda)%24%20has%20PDF%20%24f_T(t)%20%3D%20%5Clambda%20e%5E%7B-%5Clambda%20t%7D%24%20for%20%24t%20%5Cgeq%200%24.%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BE%7D%5BT%5D%20%3D%20%5Cfrac%7B1%7D%7B%5Clambda%7D%2C%20%5Cquad%20%5Cmathrm%7BVar%7D%5BT%5D%20%3D%20%5Cfrac%7B1%7D%7B%5Clambda%5E2%7D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Exponential%20random%20variables%20model%20waiting%20times%20and%20lack%20*memory*%3A%0A%20%20%20%20%24%5Cmathbb%7BP%7D%5BT%20%3E%20t%20%2B%20s%20%5Cmid%20T%20%3E%20t%5D%20%3D%20%5Cmathbb%7BP%7D%5BT%20%3E%20s%5D%24%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(np%2C%20plt)%3A%0A%20%20%20%20_t%20%3D%20np.linspace(0%2C%205%2C%20200)%0A%20%20%20%20_fig%2C%20(_ax1%2C%20_ax2)%20%3D%20plt.subplots(1%2C%202)%0A%20%20%20%20for%20_lam%20in%20%5B1%2C%202%2C%204%5D%3A%0A%20%20%20%20%20%20%20%20_ax1.plot(_t%2C%20_lam%20*%20np.exp(-_lam%20*%20_t)%2C%20label%3Drf'%24%5Cmathrm%7B%7BExp%7D%7D(%7B_lam%7D)%24')%0A%20%20%20%20%20%20%20%20_ax2.plot(_t%2C%201%20-%20np.exp(-_lam%20*%20_t)%2C%20label%3Drf'%24%5Cmathrm%7B%7BExp%7D%7D(%7B_lam%7D)%24')%0A%20%20%20%20_ax1.set(xlabel%3D'%24t%24'%2C%20ylabel%3D'%24f_T(t)%24'%2C%20title%3D'PDF')%0A%20%20%20%20_ax2.set(xlabel%3D'%24t%24'%2C%20ylabel%3D'%24F_T(t)%24'%2C%20title%3D'CDF')%0A%20%20%20%20_ax1.legend()%3B%20_ax2.legend()%3B%20_ax1.grid()%3B%20_ax2.grid()%0A%20%20%20%20plt.tight_layout()%0A%20%20%20%20_fig%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%23%20Discrete%20distributions%0A%0A%20%20%20%20**Bernoulli**%3A%20%24X%20%5Csim%20%5Cmathrm%7BBernoulli%7D(p)%24%20takes%20values%200%20or%201%20with%20%24%5Cmathbb%7BP%7D%5BX%3D1%5D%20%3D%20p%24.%0A%0A%20%20%20%20**Binomial**%3A%20%24Y%20%5Csim%20%5Cmathrm%7BBin%7D(n%2C%20p)%24%20is%20the%20sum%20of%20%24n%24%20independent%20Bernoulli%20trials%3A%20%24Y%20%3D%20%5Csum_%7Bi%3D1%7D%5En%20X_i%24.%0A%0A%20%20%20%20Many%20other%20distributions%20exist%20%E2%80%94%20see%20the%20%5B%60scipy.stats%60%20documentation%5D(https%3A%2F%2Fdocs.scipy.org%2Fdoc%2Fscipy%2Freference%2Fstats.html).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20%23%23%20Exercises%3A%20Sample%20Mean%20and%20the%20Central%20Limit%20Theorem%0A%0A%20%20%20%20The%20*sample%20mean*%20over%20%24n%24%20independent%20trials%20of%20a%20random%20variable%20%24X%24%20is%20defined%20as%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20S_n%20%3D%20%5Cbar%7BX%7D%20%3A%3D%20%5Cfrac%7B1%7D%7Bn%7D%5Csum_%7Bi%3D1%7D%5En%20X_i%0A%20%20%20%20%24%24%0A%0A%20%20%20%20Since%20%24%5Cbar%7BX%7D%24%20is%20a%20sum%20of%20random%20variables%2C%20it%20is%20itself%20a%20random%20variable.%20One%20can%20show%20that%3A%0A%0A%20%20%20%20%24%24%0A%20%20%20%20%5Cmathbb%7BE%7D%5B%5Cbar%7BX%7D%5D%20%3D%20%5Cmathbb%7BE%7D%5BX%5D%2C%20%5Cquad%20%5Cmathrm%7BVar%7D%5B%5Cbar%7BX%7D%5D%20%3D%20%5Cfrac%7B%5Cmathrm%7BVar%7D%5BX%5D%7D%7Bn%7D%0A%20%20%20%20%24%24%0A%0A%20%20%20%20The%20*Central%20Limit%20Theorem*%20states%20that%20as%20%24n%20%5Cto%20%5Cinfty%24%2C%20the%20distribution%20of%20%24%5Cbar%7BX%7D%24%20approaches%20a%20Gaussian%2C%20regardless%20of%20the%20distribution%20of%20%24X%24%20(provided%20it%20has%20finite%20mean%20and%20variance).%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Question%201.**%20Write%20a%20function%20%60samplemean(n%2C%20a%2C%20b)%60%20which%20returns%20the%20sample%20mean%20%24%5Cbar%7BX%7D%24%20taken%20over%20%60n%60%20trials%20of%20the%20random%20variable%20%24X%20%5Csim%20%5Cmathrm%7BUniform%7D(a%2C%20b)%24.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(hint)%3A%0A%20%20%20%20hint(%0A%20%20%20%20%20%20%20%20%22Use%20%60scipy.stats.uniform(loc%3Da%2C%20scale%3Db-a)%60%20to%20create%20the%20distribution%22%2C%0A%20%20%20%20%20%20%20%20%22The%20%60.rvs(size%3Dn)%60%20method%20draws%20%60n%60%20random%20samples%22%2C%0A%20%20%20%20%20%20%20%20%22Use%20%60np.mean()%60%20to%20compute%20the%20sample%20mean%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.function%0Adef%20samplemean(n%2C%20a%2C%20b)%3A%0A%20%20%20%20%23%20YOUR%20CODE%20HERE%0A%20%20%20%20pass%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(check%2C%20mo)%3A%0A%20%20%20%20check_passed_Q1%20%3D%20False%0A%20%20%20%20_val%20%3D%20samplemean(10000%2C%200%2C%201)%0A%20%20%20%20mo.stop(_val%20is%20None%2C%20check(%22Q1%3A%20samplemean%22%2C%20%5B%5D))%0A%20%20%20%20_result%20%3D%20check(%22Q1%3A%20samplemean%22%2C%20%5B%0A%20%20%20%20%20%20%20%20(callable(samplemean)%2C%20%22samplemean%20should%20be%20a%20function%22)%2C%0A%20%20%20%20%20%20%20%20(abs(_val%20-%200.5)%20%3C%200.05%2C%20f%22samplemean(10000%2C%200%2C%201)%20should%20be%20close%20to%200.5%2C%20got%20%7B_val%3A.4f%7D%22)%2C%0A%20%20%20%20%20%20%20%20(abs(samplemean(10000%2C%20-1%2C%201))%20%3C%200.05%2C%20%22samplemean(10000%2C%20-1%2C%201)%20should%20be%20close%20to%200%22)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20check_passed_Q1%20%3D%20%22success%22%20in%20getattr(_result%2C%20%22text%22%2C%20%22%22)%0A%20%20%20%20_result%0A%20%20%20%20return%20(check_passed_Q1%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20EXERCISES%2C%0A%20%20%20%20SALT_HASH%2C%0A%20%20%20%20check_passed_Q1%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20released_keys%2C%0A%20%20%20%20reveal_solution%2C%0A%20%20%20%20workshop_key%2C%0A)%3A%0A%20%20%20%20%23%20%3D%3D%3D%20MOGRADER%3A%20WORKSHOP%20SOLUTION%20Q1%20%3D%3D%3D%0A%20%20%20%20_status%2C%20_solution%20%3D%20reveal_solution(%22Q1%22%2C%20check_passed_Q1%2C%20EXERCISES%2C%20released_keys()%2C%20workshop_key.value%2C%20SALT_HASH)%0A%20%20%20%20if%20_status%20%3D%3D%20%22passed%22%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**Model%20solution**%5Cn%5Cn%60%60%60python%5Cn%7B_solution%7D%5Cn%60%60%60%22)%2C%20kind%3D%22success%22)%0A%20%20%20%20elif%20_status%20%3D%3D%20%22released%22%3A%0A%20%20%20%20%20%20%20%20if%20_solution%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**Released%20solution**%5Cn%5Cn%60%60%60python%5Cn%7B_solution%7D%5Cn%60%60%60%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22**Solution%20released**%20%E2%80%94%20enter%20the%20workshop%20key%20to%20view%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20elif%20_status%20%3D%3D%20%22no_key%22%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22**Checks%20passed!**%20Enter%20the%20workshop%20key%20below%20to%20reveal%20the%20model%20solution%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.md(%22%22)%0A%20%20%20%20_out%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Question%202.**%20Setting%20%60a%3D-1%60%2C%20%60b%3D1%60%2C%20compute%201000%20realisations%20of%20the%20sample%20mean%20%24%5Cbar%7BX%7D%24%20for%20various%20choices%20of%20%60n%60%20(e.g.%20%60n%20%3D%2010%2C%2030%2C%2050%2C%20...%2C%20190%60).%20In%20each%20case%2C%20compute%20the%20mean%20and%20variance%20of%20the%20realisations.%20Plot%20the%20computed%20variance%20against%20%60n%60%20on%20a%20log-log%20scale%2C%20comparing%20with%20the%20analytical%20result%20%24%5Cmathrm%7BVar%7D%5B%5Cbar%7BX%7D%5D%20%3D%20(b-a)%5E2%20%2F%20(12n)%24.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(hint)%3A%0A%20%20%20%20hint(%0A%20%20%20%20%20%20%20%20%22Use%20%60np.vectorize(samplemean)%60%20to%20call%20samplemean%20on%20arrays%20of%20n%20values%22%2C%0A%20%20%20%20%20%20%20%20%22Loop%20over%20values%20of%20n%20(e.g.%20%60np.arange(10%2C%20200%2C%2020)%60)%2C%20generating%201000%20realisations%20each%20time%22%2C%0A%20%20%20%20%20%20%20%20%22Use%20%60np.var()%60%20to%20compute%20the%20variance%20of%20each%20batch%2C%20then%20plot%20with%20%60plt.loglog()%60%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20q2_fig%20%3D%20None%0A%20%20%20%20%23%20YOUR%20CODE%20HERE%0A%20%20%20%20pass%0A%20%20%20%20q2_fig%0A%20%20%20%20return%20(q2_fig%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(check%2C%20mo%2C%20q2_fig)%3A%0A%20%20%20%20check_passed_Q2%20%3D%20False%0A%20%20%20%20mo.stop(q2_fig%20is%20None%2C%20check(%22Q2%3A%20variance%20plot%22%2C%20%5B%5D))%0A%20%20%20%20_result%20%3D%20check(%22Q2%3A%20variance%20plot%22%2C%20%5B%0A%20%20%20%20%20%20%20%20(q2_fig%20is%20not%20None%2C%20%22Should%20produce%20a%20figure%22)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20check_passed_Q2%20%3D%20%22success%22%20in%20getattr(_result%2C%20%22text%22%2C%20%22%22)%0A%20%20%20%20_result%0A%20%20%20%20return%20(check_passed_Q2%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20EXERCISES%2C%0A%20%20%20%20SALT_HASH%2C%0A%20%20%20%20check_passed_Q2%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20released_keys%2C%0A%20%20%20%20reveal_solution%2C%0A%20%20%20%20workshop_key%2C%0A)%3A%0A%20%20%20%20%23%20%3D%3D%3D%20MOGRADER%3A%20WORKSHOP%20SOLUTION%20Q2%20%3D%3D%3D%0A%20%20%20%20_status%2C%20_solution%20%3D%20reveal_solution(%22Q2%22%2C%20check_passed_Q2%2C%20EXERCISES%2C%20released_keys()%2C%20workshop_key.value%2C%20SALT_HASH)%0A%20%20%20%20if%20_status%20%3D%3D%20%22passed%22%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**Model%20solution**%5Cn%5Cn%60%60%60python%5Cn%7B_solution%7D%5Cn%60%60%60%22)%2C%20kind%3D%22success%22)%0A%20%20%20%20elif%20_status%20%3D%3D%20%22released%22%3A%0A%20%20%20%20%20%20%20%20if%20_solution%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**Released%20solution**%5Cn%5Cn%60%60%60python%5Cn%7B_solution%7D%5Cn%60%60%60%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22**Solution%20released**%20%E2%80%94%20enter%20the%20workshop%20key%20to%20view%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20elif%20_status%20%3D%3D%20%22no_key%22%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22**Checks%20passed!**%20Enter%20the%20workshop%20key%20below%20to%20reveal%20the%20model%20solution%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.md(%22%22)%0A%20%20%20%20_out%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20**Question%203.**%20Write%20a%20function%20%60samplecdf(v%2C%20x)%60%20which%20returns%20the%20proportion%20of%20elements%20of%20the%20array%20%60v%60%20that%20are%20less%20than%20%60x%60.%20Use%20this%20to%20plot%20the%20sample%20CDF%20of%20%24%5Cbar%7BX%7D%24%20(with%20%60n%3D200%60%2C%201000%20realisations)%20and%20compare%20it%20with%20the%20CDF%20of%20a%20Gaussian%20%24Z%20%5Csim%20%5Cmathcal%7BN%7D(%5Cmathbb%7BE%7D%5B%5Cbar%7BX%7D%5D%2C%20%5Cmathrm%7BVar%7D%5B%5Cbar%7BX%7D%5D)%24.%20This%20demonstrates%20the%20Central%20Limit%20Theorem.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(hint)%3A%0A%20%20%20%20hint(%0A%20%20%20%20%20%20%20%20%22%60samplecdf(v%2C%20x)%60%20should%20return%20the%20fraction%20of%20elements%20in%20%60v%60%20less%20than%20each%20value%20in%20%60x%60%22%2C%0A%20%20%20%20%20%20%20%20%22Use%20%60np.mean(v%20%3C%20xi)%60%20to%20compute%20the%20proportion%20for%20a%20single%20value%20xi%22%2C%0A%20%20%20%20%20%20%20%20%22For%20the%20Gaussian%20CDF%20comparison%2C%20use%20%60erf()%60%20with%20the%20analytical%20mean%20and%20variance%20of%20the%20sample%20mean%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_()%3A%0A%20%20%20%20samplecdf%20%3D%20None%0A%20%20%20%20q3_fig%20%3D%20None%0A%20%20%20%20%23%20YOUR%20CODE%20HERE%0A%20%20%20%20pass%0A%20%20%20%20q3_fig%0A%20%20%20%20return%20(samplecdf%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(check%2C%20mo%2C%20samplecdf)%3A%0A%20%20%20%20check_passed_Q3%20%3D%20False%0A%20%20%20%20mo.stop(samplecdf%20is%20None%2C%20check(%22Q3%3A%20CLT%20demonstration%22%2C%20%5B%5D))%0A%20%20%20%20import%20numpy%20as%20_np%0A%20%20%20%20_test%20%3D%20_np.array(%5B1%2C%202%2C%203%2C%204%2C%205%5D)%0A%20%20%20%20_result%20%3D%20samplecdf(_test%2C%20_np.array(%5B3.5%5D))%0A%20%20%20%20_result%20%3D%20check(%22Q3%3A%20CLT%20demonstration%22%2C%20%5B%0A%20%20%20%20%20%20%20%20(callable(samplecdf)%2C%20%22samplecdf%20should%20be%20a%20function%22)%2C%0A%20%20%20%20%20%20%20%20(abs(float(_result%5B0%5D)%20-%200.6)%20%3C%200.01%2C%20f%22samplecdf(%5B1%2C2%2C3%2C4%2C5%5D%2C%20%5B3.5%5D)%20should%20be%200.6%2C%20got%20%7Bfloat(_result%5B0%5D)%7D%22)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20check_passed_Q3%20%3D%20%22success%22%20in%20getattr(_result%2C%20%22text%22%2C%20%22%22)%0A%20%20%20%20_result%0A%20%20%20%20return%20(check_passed_Q3%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20EXERCISES%2C%0A%20%20%20%20SALT_HASH%2C%0A%20%20%20%20check_passed_Q3%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20released_keys%2C%0A%20%20%20%20reveal_solution%2C%0A%20%20%20%20workshop_key%2C%0A)%3A%0A%20%20%20%20%23%20%3D%3D%3D%20MOGRADER%3A%20WORKSHOP%20SOLUTION%20Q3%20%3D%3D%3D%0A%20%20%20%20_status%2C%20_solution%20%3D%20reveal_solution(%22Q3%22%2C%20check_passed_Q3%2C%20EXERCISES%2C%20released_keys()%2C%20workshop_key.value%2C%20SALT_HASH)%0A%20%20%20%20if%20_status%20%3D%3D%20%22passed%22%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**Model%20solution**%5Cn%5Cn%60%60%60python%5Cn%7B_solution%7D%5Cn%60%60%60%22)%2C%20kind%3D%22success%22)%0A%20%20%20%20elif%20_status%20%3D%3D%20%22released%22%3A%0A%20%20%20%20%20%20%20%20if%20_solution%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**Released%20solution**%5Cn%5Cn%60%60%60python%5Cn%7B_solution%7D%5Cn%60%60%60%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22**Solution%20released**%20%E2%80%94%20enter%20the%20workshop%20key%20to%20view%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20elif%20_status%20%3D%3D%20%22no_key%22%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22**Checks%20passed!**%20Enter%20the%20workshop%20key%20below%20to%20reveal%20the%20model%20solution%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.md(%22%22)%0A%20%20%20%20_out%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.md(r%22%22%22%0A%20%20%20%20You%20should%20find%20close%20agreement%20between%20the%20sample%20CDF%20and%20the%20Gaussian%20CDF.%20This%20result%20%E2%80%94%20the%20**Central%20Limit%20Theorem**%20%E2%80%94%20explains%20the%20central%20importance%20of%20Gaussian%20random%20variables.%20They%20model%20statistical%20errors%20which%20appear%20everywhere%2C%20regardless%20of%20the%20underlying%20distribution.%0A%0A%20%20%20%20**Extension%3A**%20Try%20adapting%20the%20code%20to%20demonstrate%20the%20CLT%20for%20a%20different%20distribution%20(e.g.%20%60scipy.stats.gamma%60%2C%20%60scipy.stats.expon%60).%20The%20CLT%20holds%20for%20any%20distribution%20with%20finite%20mean%20and%20variance.%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20released_keys%2C%20set_released_keys%20%3D%20mo.state(%7B%7D)%0A%20%20%20%20fetch_count%2C%20set_fetch_count%20%3D%20mo.state(0)%0A%20%20%20%20return%20fetch_count%2C%20released_keys%2C%20set_fetch_count%2C%20set_released_keys%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20set_fetch_count)%3A%0A%20%20%20%20workshop_key%20%3D%20mo.ui.text(label%3D%22Workshop%20key%22%2C%20placeholder%3D%22Enter%20key%20from%20instructor%22)%0A%0A%20%20%20%20def%20_on_fetch(_)%3A%0A%20%20%20%20%20%20%20%20set_fetch_count(lambda%20n%3A%20n%20%2B%201)%0A%0A%20%20%20%20fetch_btn%20%3D%20mo.ui.button(label%3D%22Check%20for%20released%20solutions%22%2C%20on_click%3D_on_fetch)%0A%20%20%20%20mo.hstack(%5Bworkshop_key%2C%20fetch_btn%5D%2C%20justify%3D%22start%22%2C%20gap%3D1)%0A%20%20%20%20return%20(workshop_key%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(KEYS_URL%2C%20fetch_count%2C%20fetch_released_keys%2C%20mo%2C%20set_released_keys)%3A%0A%20%20%20%20_count%20%3D%20fetch_count()%0A%20%20%20%20if%20_count%20%3D%3D%200%3A%0A%20%20%20%20%20%20%20%20_out%20%3D%20mo.md(%22%22)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20_keys%20%3D%20fetch_released_keys(KEYS_URL)%0A%20%20%20%20%20%20%20%20set_released_keys(_keys)%0A%20%20%20%20%20%20%20%20_n%20%3D%20len(_keys)%0A%20%20%20%20%20%20%20%20if%20_n%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(f%22**%7B_n%7D%20solution(s)%20released**%20%E2%80%94%20scroll%20up%20to%20see%20them%22)%2C%20kind%3D%22success%22)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_out%20%3D%20mo.callout(mo.md(%22No%20additional%20solutions%20released%20by%20instructor%22)%2C%20kind%3D%22neutral%22)%0A%20%20%20%20_out%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A