※ 本文是否可提供台大同学转作其他非营利用途？（须保留原作者 ID） （是／否／其他条件）：是 哪一学年度修课： 108-2 ψ 授课教师 (若为多人合授请写开课教师，以方便收录) 陈尚泽 λ 开课系所与授课对象 (是否为必修或通识课 / 内容是否与某些背景相关) 资工所 选修 δ 课程大概内容 主要讲解机器学习模型本身的缺陷，导致於模型可以被欺骗，或者可以泄漏隐私 资料。 这门课不是探讨机器学习套件的安全漏洞，也不是把机器学习运用在资安检测或 攻击上，虽然我有看到期末专题有人做针对AI防毒软体的攻击 这里直接贴课程网页的内容： - Evasion attacks (i.e., adversarial examples) - Empirical defenses to evasion attacks - Theoretical analysis of adversarial examples - Certified Defenses - Poisoning attacks - Robust statistics - Confidentiality of ML models - Differential privacy - Fairness - Final project presentation 资料来源：https://www.csie.ntu.edu.tw/~stchen/teaching/spml20spring/ Ω 私心推荐指数(以五分计) ★★★★★ 想要学习资安 ★★ (请左转计算机安全) 想要学习机器学习的原理 ★★★ (请左转机器学习技法) 想要从反面例学习机器学习 ★★★★★ 凉度 ★ η 上课用书(影印讲义或是指定教科书) 没有教科书，因为这是新的领域 老师会把他做的投影片放在NTU COOL 参考资料主要是arXiv的论文 μ 上课方式(投影片、团体讨论、老师教学风格) 老师使用投影片讲解，一开始老师会讲3个小时，中间有下课，在学期中以後老师 只讲2个小时，剩下1个小时会请同学上台报论文 同学的上台报告会萤幕录影，让同学可以线上看 σ 评分方式(给分甜吗？是紮实分？) 作业 30% (2个) 论文阅读心得 10% (10篇) 报论文 20% 期末专题 40% 有提案、口头报告还有书面报告 我也很好奇分数有多甜呢，因为不知道其他人的分数，但是我得到A+ ρ 考题型式、作业方式 作业只有两个，有程式题，也有手写题。所有的作业都要用英文写，只有口头 报告可以说中文。 第1次的作业是攻击CIFAR-10的影像辨识模型。教授提供CIFAR-10的100张图片， 我们要对这些图片加上杂讯，使得教授训练的模型出错。作业需要交出加杂讯的 图片、实验报告还有程式码。 报告必须用LaTeX写，最多4页，要以研讨会论文的格式撰写，可以写用了什麽 攻击方法、训练哪些模型、攻击自己模型的成效如何。 评分会以教授模型的精准度，还有实验报告来评分。 程式可以使用任何语言，任何开源的套件 (PyTorch、TensorFlow等)，甚至可以 用专门用来攻击神经网路的套件。 第2次的作业是手写作业，可以用Word或LaTeX写。题目有用数学推论简单模型的 攻击结果，还有证明differential privacy的性质。 报论文采用分组报告的形式，教授会根据修课人数，决定小组的人数，总共有10 组，每个礼拜请一组报告。报告有大约50分钟，含QA时间。 报的论文是由老师指派的，有3到4篇，可以在口头报告时比较各论文的优劣。 报告完以後，报告的小组要交出报告用的投影片，还有萤幕录影。 要小心即使报论文时100%的解释论文的研究结果，老师还是会批评你们，因为 老师期待同学们可以提出论文的弱点以及改进方法。 论文评论(reading critique)每周要写一篇，是由老师每周指派要阅读的论文， 通常有3~4篇，选择一篇来阅读，并写出心得。 心得必须包含论文的优势和劣势，内容只需要一页。 论文评论总共要写10篇，如果当周要报论文，那这周可以不用写评论。 期末专题的题目是课程范畴的延伸，可以攻击神经网路、对攻击进行防守、还有 利用机器学习的缺陷来做有趣的应用。期末专题使用和报论文一样的分组，所以要 好好培养组员的感情。 基本上书面报告的格式就是研讨会的格式，要用LaTeX写，最多6页，口头报告只 有25分钟讲解加5分钟QA。 如果想不到期末可以做什麽，我可以给你们参考：我们的期末专题是攻击抽取 音乐人声的程式，因为我的实验室刚好是处理音乐的。 ω 其它(是否注重出席率？如果为外系选修，需先有什麽基础较好吗？老师个性？ 加签习惯？严禁迟到等…) 我本人觉得一周一次的论文评论让我很痛苦，因为教授要求用英文写，而我连 中文都有点词不达意，英文更需要我不断的Google文法，确认我没有写错。 这门课是新开的课，在我上学期修的时候名额没有满，所以没有遇到加选的 问题，但是这学期很多人修，不知道加选怎麽进行。 教授是新来的，所以这门课没有助教，有问题要写信问教授。 教授不会点名，但是因为每个人都要报论文，所以要记得自己组的报告时间。 这门课假设大家对机器学习的套件已有相当认识，而且知道神经网路的运作 原理，所以如果不熟悉的话，可以去修机器学习技法(我是同时修那门课)。 Ψ 总结 这门课很硬！每周一篇心得，有期末专题，加上全部都要用英文写，让我一周要 花10个小时在课程上面。也许是因为教授是新来的吧，听说新来的教授都会很 认真。 这门课不是平常的资安课，所以如果只想碰资安，不想碰机器学习的话，就赶快 让出名额吧。 这门课也不是用AI做防毒软体、漏洞搜寻、攻击侦测…等。虽然这些主题还是 可以作为期末专题啦，但是恐怕这些主题并没有任何我知道的课会教，我只能建议 去修计算机安全加机器学习的课。 我只是想让我的脑袋可以容下AI的思维，所以才修各种机器学习的课，就发现这 门新开的课。新开的课没有人评论，那我就可以评论。同时这是我第一次在 NtuCourse版发文，如果有什麽遗漏的可以求我补上。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.112.91.55 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/NTUcourse/M.1600346763.A.DF0.html ※ 编辑: stdio2016 (140.112.91.55 台湾), 09/17/2020 20:52:20 ※ 编辑: stdio2016 (140.112.91.55 台湾), 09/17/2020 20:54:03