论文解读：CLIP - 从自然语言监督中学习可迁移的视觉模型
论文：Learning Transferable Visual Models From Natural Language Supervision (Radford et al., OpenAI, 2021)
论文地址：https://arxiv.org/pdf/2103.00020
代码：https://github.com/OpenAI/CLIP
Research Hub
研究
本页面记录在 人工智能 (AI)、光电技术 (Optoelectronics)、材料分析 (Materials Analysis) 及 半导体物理 (Semiconductor Physics) 等领域的研究动态、学术笔记及深度思考，探索跨学科前沿技术的足迹。
研究方向：AI 驱动材料生长实时控制
深度解析 AI 在 MBE 领域的演进路径：从基于 3D ResNet 的实时闭环控制，到针对跨材料体系的迁移学习，最终迈向融合材料物理本质与实验条件的物理启发式多模态建模 (SciML)。
论文解读：3D ResNet - Spatiotemporal 3D CNNs Retrace the History of 2D CNNs and ImageNet
3D ResNet 对视频理解的重要性，很像 2D ResNet 对图像理解的重要性。它不是最早的 3D CNN，也不是最花哨的结构，但它非常关键地回答了一个问题：只要数据集足够大，3D CNN 能不能像 2D CNN 一样，通过更深的网络学到可迁移的通用表示？
论文：Can Spatiotemporal 3D CNNs Retrace the History of 2D CNNs and ImageNet?
元素周期表视角：III-v 族化合物半导体与 MBE 异质结构材料选择
从元素周期表出发，梳理 In、Ga、Al、As、Sb 等 III-V 族化合物半导体核心元素的物理化学特性，并结合 InAs/GaSb、InAs/AlSb、InAsSb 等 MBE 异质结构与 RHEED 机器学习课题分析材料选择逻辑。
论文解读：机器学习辅助与实时反馈控制 InAs/GaAs 量子点生长
解读 Nature Communications 2024 论文——利用 RHEED 视频、3D ResNet 深度学习模型与 MBE 闭环控制系统，实现 InAs/GaAs 量子点密度的原位实时反馈调控。
论文解读：BERT - 基于Transformer的双向编码器表征
BERT (Bidirectional Encoder Representations from Transformers) 是由 Google 团队在 2018 年提出的预训练语言模型底座。它是第一个基于 Transformer 架构的深层双向 Encoder。它的出现改变了自然语言处理（NLP）领域的范式，在发布时横扫了多项自然语言处理任务，在流行的 GLUE 基准上超过了当时所有的最强模型。
目前，基于 BERT 衍生的纯 Encoder 模型依然在 NLP 行业（尤其是文本分类、实体识别等自然语言理解任务 NLU）中占据着主导地位。
论文：BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding
论文解读：Transformer-Attention Is All You Need
Transformer是2017年Google论文《Attention is All You Need》提出的一种模型结构，颠覆了通过RNN进行序列建模的思路，已被广泛应用于NLP各个领域，如出色的Bert、GPT都是基于Transformer模型。
论文解读：DeepLab - 用于语义图像分割的深度卷积网络
DeepLabv1是在2015年发表，在此之前，图像分类、目标检测、语义分割等都基于DCNN模型发展，但DCNN会存在重复池化导致分辨率下降；位置信息丢失，难以恢复，分割结果粗糙，丢失细节等问题；故DeepLab系列对DCNN等问题进行改进。
DeepLab v1
论文：Semantic image segmentation with deep convolutional nets and fully connected CRFs
论文解读：Mask R-CNN - 实例分割通用框架
Mask R-CNN是一个小巧灵活的通用实例级分割框架，对图像进行目标检测，还可对每一个目标给出一个高质量的分割结果。它在Faster R-CNN基础之上进行扩展，并行地在bounding box recognition分支上添加一个用于预测目标掩模（object mask）的新分支。具有扩展性强、结构简单、准确度高、容易理解，是图像实例级分割的优秀模型。
论文：Mask R-CNN
