|
学校介绍 香港城市大学是一所坐落于香港九龙塘的公立研究型大学。2025年QS亚洲大学排名第10名，香港第3名，QS建校未满50年最佳大学第4名，ARUW工程/技术/计算机科学香港地区第1名，泰晤士全球最国际化大学第1名。校园地处九龙塘商业区，港铁九龙塘站，背靠狮子山，眺望九龙半岛和维多利亚港。
导师简介 我（苗宁）是香港城市大学数据科学学院的新任助理教授。我2024年9月毕业于牛津大学统计学系，师从Prof. Yee Whye Teh和Prof. Tom Rainforth。在此之前，我分别于2016年和2019年分别从北京大学获得学士（基础数学）和硕士（数据科学）学位，并曾在字节跳动AI Lab担任研究员。我的研究兴趣为文本生成模型，尤其是大语言模型（LLM）及其推理能力。我曾在Neurips, ICLR, ICML, ACL, AAAI等会议上以第一作者身份发表多篇文章，并长期担任这些会议和TPAMI、JMLR等期刊的审稿人。
研究方向 课题组的研究方向是LLM的reasoning能力，尤其是解决数学问题的能力。我们希望以复杂的数学问题作为种子，激发出LLM的通用推理能力。我们目前的子课题包括： 适用于reasoning的transformer结构探索（与牛津大学合作项目）；
LLM自我纠错（业界合作项目）；
利用工具和人类知识提升LLM数学能力；
数学问题上self-play。
我指导学生的风格： 方式一：想自由探索的同学可以在LLM reasoning的框架下自由探索，自己管理项目，把我当API调用。一周讨论一次，我提供各方面支持，同时确保课题在正轨上。 方式二：希望获得更多指导的同学，我可以给idea，指导实验，带写论文。如有必要，一周可以讨论多次，手把手带你，帮你快速成长。
为什么要在Miao Lab做PhD： 1. LLM Reasoning是未来五年的研究热点，我们也有充足的资源做有影响力的工作； 2. 我在生成模型和LLM领域经验丰富，有能力，也有精力指导你；
3. 课题组与英国和美国的知名高校有紧密的联系，这些联系会极大地便利你海外访问或深造；
4. 最重要的一点：课题组的宽松自由但充满支持的环境会有利于你的身心健康。
为什么要在Miao Lab做RA： 1. LLM Reasoning是未来五年的研究热点，我们也有充足的资源做有影响力的工作； 2. 导师在生成模型和LLM领域经验丰富，有能力，也有精力指导你；
3. 我们会给优秀的RA提供次年的读博机会。
我期待的你 必备项： 1. 专业背景：数学、统计、人工智能、计算机、数据科学等相关专业（本科硕士均可）
2. 基础能力：理论功底扎实，工作态度端正，熟悉NLP和LLM等相关算法。
3. 学术研究： 硕士起点的PhD申请者需要在NLP/AI/ML顶会发表论文或在Arxiv上发表同等质量的工作 本科起点的PhD申请者和RA申请者要有相关领域的科研经历
4. RA要求全职参与Miao Lab的研究工作。可部分时间线上工作。
加分项：熟悉开源大模型（比如LLama3、Deepseek、Qwen），有大模型训练和推理的相关经验（LLama-Factory、SFT、LoRA、VLLM等）。
| 
发表于 2024-12-11 14:58:52