borch workbench

%23%20The%20workbench%20notebook%20%E2%80%94%20upload%20images%2C%20train%20on%20this%20tab's%20GPU%2C%20review%20the%20labels%0A%23%20the%20model%20doubts%2C%20and%20take%20the%20model%20away%20as%20ONNX.%20marimo%2C%20in%20the%20browser%20(Pyodide)%3B%0A%23%20built%20into%20%60site%2Fmarimo%2F%60%20by%20%60site%2Fbuild_marimo.py%60.%0A%0Aimport%20marimo%0A%0A__generated_with%20%3D%20%220.24.0%22%0Aapp%20%3D%20marimo.App(width%3D%22medium%22%2C%20app_title%3D%22borch%20workbench%22)%0A%0A%0A%40app.cell%0Aasync%20def%20_()%3A%0A%20%20%20%20import%20js%2C%20micropip%2C%20marimo%20as%20mo%0A%20%20%20%20%23%20The%20wheel%20sits%20beside%20this%20page.%20The%20kernel%20is%20a%20worker%20whose%20%60location%60%20is%20its%0A%20%20%20%20%23%20script's%20%E2%80%94%20under%20%60%3Cpage%3E%2Fassets%2F%60%20%E2%80%94%20so%20the%20page's%20directory%20is%20two%20steps%20up.%0A%20%20%20%20href%20%3D%20str(js.location.href)%0A%20%20%20%20base%20%3D%20href.split(%22%2Fassets%2F%22)%5B0%5D%20if%20%22%2Fassets%2F%22%20in%20href%20else%20str(js.location.origin)%0A%20%20%20%20await%20micropip.install(f%22%7Bbase%7D%2Fpyborch-1.6.0-py3-none-any.whl%22)%0A%20%20%20%20import%20borch_webgpu%20as%20torch%0A%20%20%20%20adapter%20%3D%20str(js.borch.Device.adapterInfo)%0A%20%20%20%20mo.md(f%22**borch%20on%20%60%7Badapter%7D%60**%20%E2%80%94%20%60import%20borch_webgpu%20as%20torch%60%20booted%20borch.ts%20in%20this%20kernel.%20Nothing%20was%20installed%20on%20this%20machine.%22)%0A%20%20%20%20return%20mo%2C%20torch%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20upload%20%3D%20mo.ui.file(filetypes%3D%5B%22.png%22%2C%20%22.jpg%22%2C%20%22.jpeg%22%5D%2C%20multiple%3DTrue%2C%20label%3D%22Images%20to%20review%20(label%20%3D%20the%20part%20of%20the%20file%20name%20before%20the%20first%20'_')%22)%0A%20%20%20%20mo.vstack(%5Bmo.md(%22%23%23%23%201%20%C2%B7%20Images%22)%2C%20upload%2C%20mo.md(%22Nothing%20uploaded%3F%20A%20synthetic%20set%20of%20three%20classes%20is%20used%2C%20so%20the%20notebook%20runs%20as%20it%20is.%22)%5D)%0A%20%20%20%20return%20(upload%2C)%0A%0A%0A%40app.cell%0Adef%20_(torch%2C%20upload)%3A%0A%20%20%20%20import%20numpy%20as%20np%0A%20%20%20%20SIDE%20%3D%2064%0A%20%20%20%20if%20upload.value%3A%0A%20%20%20%20%20%20%20%20%23%20Files%20in%20hand%20%E2%86%92%20NCHW%20in%20%5B0%2C%201%5D%2C%20labels%20from%20the%20names%3A%20%60torch.decode_images%60.%0A%20%20%20%20%20%20%20%20X%2C%20y%2C%20names%2C%20CLASSES%20%3D%20torch.decode_images(upload.value%2C%20size%3DSIDE)%0A%20%20%20%20%20%20%20%20labels%20%3D%20%5BCLASSES%5Bi%5D%20for%20i%20in%20y%5D%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%23%20Three%20classes%3A%20a%20low-frequency%20template%20each%2C%20plus%20noise%20%E2%80%94%20the%20same%20set%0A%20%20%20%20%20%20%20%20%23%20tests%2Fbrowser%2Fenvelope2.html%20trains%20on.%0A%20%20%20%20%20%20%20%20CLASSES%20%3D%20%5B%22a%22%2C%20%22b%22%2C%20%22c%22%5D%0A%20%20%20%20%20%20%20%20rng%20%3D%20np.random.default_rng(7)%0A%20%20%20%20%20%20%20%20cells%20%3D%206%0A%20%20%20%20%20%20%20%20templates%20%3D%20%5Brng.standard_normal((cells%2C%20cells%2C%203)).astype(np.float32)%20for%20_%20in%20CLASSES%5D%0A%20%20%20%20%20%20%20%20idx%20%3D%20np.arange(SIDE)%20*%20cells%20%2F%2F%20SIDE%0A%20%20%20%20%20%20%20%20names%2C%20images%2C%20labels%20%3D%20%5B%5D%2C%20%5B%5D%2C%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20i%20in%20range(90)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20k%20%3D%20i%20%25%203%0A%20%20%20%20%20%20%20%20%20%20%20%20img%20%3D%200.5%20%2B%200.3%20*%20templates%5Bk%5D%5Bidx%5D%5B%3A%2C%20idx%5D%20%2B%200.15%20*%20rng.standard_normal((SIDE%2C%20SIDE%2C%203)).astype(np.float32)%0A%20%20%20%20%20%20%20%20%20%20%20%20names.append(f%22%7BCLASSES%5Bk%5D%7D_%7Bi%3A03d%7D.png%22)%3B%20images.append(np.clip(img%2C%200%2C%201))%3B%20labels.append(CLASSES%5Bk%5D)%0A%20%20%20%20%20%20%20%20X%20%3D%20np.stack(images).transpose(0%2C%203%2C%201%2C%202).astype(np.float32)%20%20%20%20%20%20%20%20%23%20N%2C%203%2C%20S%2C%20S%0A%20%20%20%20%20%20%20%20y%20%3D%20np.array(%5BCLASSES.index(l)%20for%20l%20in%20labels%5D%2C%20dtype%3Dnp.int64)%0A%20%20%20%20return%20CLASSES%2C%20X%2C%20labels%2C%20names%2C%20np%2C%20y%0A%0A%0A%40app.cell%0Adef%20_(CLASSES%2C%20X%2C%20mo%2C%20torch%2C%20y)%3A%0A%20%20%20%20%23%202%20%C2%B7%20Train%20%E2%80%94%20a%20small%20CNN%20written%20as%20torch%20writes%20it.%20Swap%20this%20cell%20for%20your%20own%20model.%0A%20%20%20%20import%20time%0A%20%20%20%20def%20block(cin%2C%20cout)%3A%0A%20%20%20%20%20%20%20%20return%20%5Btorch.nn.Conv2d(cin%2C%20cout%2C%203%2C%20padding%3D1)%2C%20torch.nn.BatchNorm2d(cout)%2C%20torch.nn.ReLU()%2C%20torch.nn.MaxPool2d(2)%5D%0A%20%20%20%20model%20%3D%20torch.nn.Sequential(*block(3%2C%2016)%2C%20*block(16%2C%2032)%2C%20*block(32%2C%2064)%2C%20torch.nn.AdaptiveAvgPool2d(1)%2C%20torch.nn.Flatten()%2C%20torch.nn.Linear(64%2C%20len(CLASSES)))%0A%20%20%20%20opt%20%3D%20torch.optim.Adam(model.parameters()%2C%20lr%3D1e-3)%0A%20%20%20%20crit%20%3D%20torch.nn.CrossEntropyLoss()%0A%20%20%20%20Xt%2C%20yt%20%3D%20torch.tensor(X)%2C%20torch.tensor(y)%0A%20%20%20%20BATCH%2C%20EPOCHS%20%3D%2016%2C%2012%0A%20%20%20%20steps%20%3D%20max(1%2C%20len(X)%20%2F%2F%20BATCH)%0A%20%20%20%20t0%20%3D%20time.perf_counter()%3B%20losses%20%3D%20%5B%5D%0A%20%20%20%20for%20epoch%20in%20range(EPOCHS)%3A%0A%20%20%20%20%20%20%20%20for%20s%20in%20range(steps)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20xb%20%3D%20Xt%5Bs%20*%20BATCH%3A(s%20%2B%201)%20*%20BATCH%5D%3B%20yb%20%3D%20yt%5Bs%20*%20BATCH%3A(s%20%2B%201)%20*%20BATCH%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20opt.zero_grad()%3B%20loss%20%3D%20crit(model(xb)%2C%20yb)%3B%20loss.backward()%3B%20opt.step()%0A%20%20%20%20%20%20%20%20losses.append(loss.item())%0A%20%20%20%20train_s%20%3D%20time.perf_counter()%20-%20t0%0A%20%20%20%20model.eval()%0A%20%20%20%20with%20torch.no_grad()%3A%0A%20%20%20%20%20%20%20%20logits%20%3D%20model(Xt)%0A%20%20%20%20%20%20%20%20pred%20%3D%20logits.argmax(1).numpy()%0A%20%20%20%20%20%20%20%20feats%20%3D%20logits.numpy()%0A%20%20%20%20acc%20%3D%20float((pred%20%3D%3D%20y).mean())%0A%20%20%20%20mo.md(f%22%23%23%23%202%20%C2%B7%20Trained%5Cn%7BEPOCHS%7D%20epochs%20%C3%97%20%7Bsteps%7D%20steps%20in%20**%7Btrain_s%3A.1f%7D%20s**%20%C2%B7%20loss%20%7Blosses%5B0%5D%3A.2f%7D%20%E2%86%92%20%7Blosses%5B-1%5D%3A.3f%7D%20%C2%B7%20agrees%20with%20the%20given%20labels%20on%20**%7Bacc%20*%20100%3A.0f%7D%25**%22)%0A%20%20%20%20return%20feats%2C%20model%2C%20pred%0A%0A%0A%40app.cell%0Adef%20_(CLASSES%2C%20X%2C%20feats%2C%20labels%2C%20mo%2C%20names%2C%20np%2C%20pred%2C%20torch%2C%20y)%3A%0A%20%20%20%20%23%203%20%C2%B7%20Review%20%E2%80%94%20the%20labels%20the%20model%20doubts%2C%20first.%20%60torch.suspects%60%20scores%20each%0A%20%20%20%20%23%20image%20by%20how%20many%20of%20its%20five%20nearest%20neighbours%20(cosine%2C%20on%20the%20model's%0A%20%20%20%20%23%20features)%20carry%20a%20different%20label%3A%20a%20wrong%20label%20sits%20among%20images%20that%20disagree.%0A%20%20%20%20import%20io%0A%20%20%20%20from%20PIL%20import%20Image%20%20%20%20%20%20%20%20%20%20%23%20named%20here%20so%20marimo%20loads%20Pillow%20for%20the%20thumbnails%0A%20%20%20%20suspect%20%3D%20torch.suspects(feats%2C%20y%2C%20k%3D5)%0A%20%20%20%20order%20%3D%20np.argsort(-suspect)%0A%20%20%20%20def%20thumb(i)%3A%0A%20%20%20%20%20%20%20%20buf%20%3D%20io.BytesIO()%3B%20Image.fromarray((X%5Bi%5D.transpose(1%2C%202%2C%200)%20*%20255).astype(%22uint8%22)).save(buf%2C%20format%3D%22PNG%22)%3B%20return%20buf.getvalue()%0A%20%20%20%20rows%20%3D%20%5B%7B%22file%22%3A%20names%5Bi%5D%2C%20%22image%22%3A%20mo.image(thumb(i)%2C%20width%3D56)%2C%20%22given%22%3A%20labels%5Bi%5D%2C%20%22predicted%22%3A%20CLASSES%5Bint(pred%5Bi%5D)%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%22suspect%22%3A%20round(float(suspect%5Bi%5D)%2C%202)%7D%20for%20i%20in%20order%5D%0A%20%20%20%20table%20%3D%20mo.ui.table(rows%2C%20selection%3D%22single%22%2C%20page_size%3D10%2C%20label%3D%22review%20queue%20%E2%80%94%20most%20doubted%20first%22)%0A%20%20%20%20mo.vstack(%5Bmo.md(%22%23%23%23%203%20%C2%B7%20Review%22)%2C%20table%5D)%0A%20%20%20%20return%20(table%2C)%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20table)%3A%0A%20%20%20%20picked%20%3D%20table.value%0A%20%20%20%20mo.md(f%22picked%3A%20**%7Bpicked%5B0%5D%5B'file'%5D%7D**%20%E2%80%94%20given%20%60%7Bpicked%5B0%5D%5B'given'%5D%7D%60%2C%20predicted%20%60%7Bpicked%5B0%5D%5B'predicted'%5D%7D%60%22%20if%20picked%20else%20%22*pick%20a%20row%20above%20to%20inspect%20it*%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(X%2C%20mo%2C%20model%2C%20torch)%3A%0A%20%20%20%20%23%204%20%C2%B7%20Take%20it%20away%20%E2%80%94%20the%20trained%20model%20as%20ONNX%2C%20the%20file%20every%20serving%20runtime%20reads.%0A%20%20%20%20sample%20%3D%20torch.tensor(X%5B%3A1%5D)%0A%20%20%20%20data%20%3D%20torch.onnx.export(model%2C%20sample)%0A%20%20%20%20mo.vstack(%5Bmo.md(f%22%23%23%23%204%20%C2%B7%20Export%5Cn%7Blen(data)%20%2F%201e3%3A.0f%7D%20KB%20of%20ONNX%20(%60torch.onnx.export%60)%22)%2C%20mo.download(data%3Ddata%2C%20filename%3D%22model.onnx%22%2C%20label%3D%22Download%20model.onnx%22)%5D)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A