【第8章】& Qiita【実装解説】日本語BERT × 教師なし学習（情報量最大化クラスタリング）でlivedoorニュースを分類 about pytorch_advanced HOT 5 OPEN

YutaroOgawa 様

ご返信いただき、ありがとうございます！
大変光栄です。
早速ご教授いただきました通りに実装してみたところ、ばっちりうまくいきました！
が、その後の「準備2：BERTでlivedoorニュースの記事をベクトル化する」で
ModuleNotFoundError: No module named 'transformers.modeling_bert'となってしまいました...。
いくつかのネット記事で「transformersのバージョンが」と書かれていたので、!pip install transformers==3.5.1? 4.9.1?と色々いじってみたのですが、その都度いろいろなところで怒られてしまい、挟み撃ち状態です。

もし、お手すきの時がありましたら、またご返信いただけると幸いです。
何卒よろしくお願いいたします。

from pytorch_advanced.

from pytorch_advanced.

@hasune613 さま

ご質問いただき、ありがとうございます。

もうだいぶ古い記事とコードになってしまったので、動作させるのが大変ですね。

該当部分までを動作するように少しだけ修正してみました
（trasformer周りを最新に合わせるのと、torchtext.legacy.dataに置き換えただけで、私は上手くいきました。。。）

こちらご確認いただけますでしょうか。

4_BERT_livedoor_news_IIC_on_Google_Colaboratory_途中まで_20220125.ipynb

from pytorch_advanced.

@hasune613 さま

上記リンクのGoogle Clabのファイルにて、

from transformers.modeling_bert import BertModel

の部分を、以前は通っていたのですが、Transformerのバージョンアップで変わっているので、
#from transformers.modeling_bert import BertModel

とコメントアウトしています。

ここの部分を、適切な　importにしていただければと思います。

from pytorch_advanced.

@hasune613 さま

動いたようで、とても嬉しいです！
Transformer周りは更新が頻繁なので、難しいですよね。

私も勉強になりました。

こちらこそ、これからもどうぞよろしくお願い致します。

from pytorch_advanced.