Murata Lab

近年、画像と文章を同時に理解して回答する視覚言語モデルが広く利用されている。一方で、安全性を重視するあまり、本来は危険ではない質問に対しても回答を拒否してしまう「過剰拒否」が起こることがある。本研究では、安全な画像と質問に対する適切な回答を用いてモデルを追加学習し、安全な質問への過剰拒否を減らすことを目指す。また、危険な質問に対する拒否能力が維持されているかを学習前後で比較し、安全性と利便性を両立できる学習方法について検証する。