機械学習と語彙ルールに基づくヒングリッシュ発話の費用対効果の高い感情注釈

Summary

この研究では、ルールベースの戦略と機械学習および専門家の支援を組み合わせて、ヒングリッシュ語と英語のテキストに注釈を付けます。データは 19,000 件のツイートで 81% の精度でテストされており、手動で行うよりもはるかに安価です。危機時の感情を追跡するのに役立つ可能性があります。

Abstract

ヒングリッシュ語 (ヒンディー語 - 英語) などのコード混合言語での感情注釈には、言語の複雑さとリソースの制約により、特有の課題があります。本研究では、語彙ルール、機械学習、反復的な専門家フィードバックを組み合わせて、コスト効率が高く、高精度な感情注釈を実現するハイブリッドアクティブラーニングフレームワークを導入します。離散感情理論や認知評価理論などの感情の心理学理論に基づいたこのフレームワークは、バイリンガルの感情辞書(例:gussaとrageを怒りにマッピングする)、複合語のサブワードトークン化(例: を に分割する)、およびあいまいなサンプルに優先順位を付けるアクティブラーニングを採用しています。19,000件の戦争と紛争関連のヒングリッシュツイートデータセットで評価したところ、このフレームワークは81%の精度(Fスコア:0.76)を達成し、手動アノテーションと比較して運用コストを40%削減しました。字句ルールにより、コード切り替えのあいまいさが 89% 解決され、反復的な改良により、精度が 72% から 81% に向上しました。このシステムの効率性は、絵文字、ハッシュタグ、スラングの自動前処理により、人間の労力をデータセットの 73% に制限することに由来しています。この研究は、語彙ルールベースの手法をアクティブラーニングおよび機械学習と統合することで、ヒングリッシュテキストの感情注釈の精度を高めると同時に、手動のラベル付けと全体的な注釈の労力を削減できるという仮説に基づいています。

Introduction

2 つ以上の言語が 1 つの行または音声で混在している場合、これをコード混合言語と呼びます。ヒングリッシュのようなカジュアルな会話ではよくあることです。人間の感情を理解する方法は複数あり、一連の感情的な発言を計算的にモデル化することは、それらの文章を発した人々によって注釈を付けることです。それは生物学的、生理学的、心理的レベルなどの観点から理解できます。ロジャー・ペンローズなどの科学者によると、私たちの世界の多くの現象は非計算的であり、ヴォルフラムなどの科学者は、すべて(すべての現象)を^{計算的にモデル}化できると考えています1。ペンローズは、意識には、段階的なアルゴリズム手順で達成できるものを超えたプロセス(おそらく脳内の量子力学に関連する)が関与していると考えています。彼は、たとえば人間の数学的洞察が^{形式システムを超え}ているという考えを裏付けるために、ゲーデルの不完全性定理を頻繁に引用します2。意識が非計算的である場合、意識的経験の重要な側面としての感情にも非計算的要素がある可能性があります。Mathematica とセルオートマトンに関する研究で知られる Stephen Wolfram は、「計算等価の原理」を提案しています。これは、潜在的に宇宙自体とその中の現象(感情など)を含む非常に複雑なシステムでさえ、たとえそれらのルールが非常に単純で複雑な動作を生成するとしても、最終的には計算ルールによって記述およびモデル化できることを示唆しています。しかし、実際には、これは不可能であり、感情分析を行うことができる専門家または単に注釈者と呼ばれる人が必要です³.

本研究では、計算モデルを構築するという考え方を広めます。しかし、そのモデルは準計算的になります。この文脈での私たちの研究は、形式上は計算的であることを目的としていますが、すべての側面を完全に捉えるわけではなく、完全に計算することが困難または不可能な複雑さの余地を残す可能性があります。感情は、固定されたアルゴリズムでは完全に捉えることができない主観的な経験、文化的背景、微妙な表現に依存するため、計算でモデル化することは困難です。

したがって、変数ベースの計算アプローチを使用して人間の感情をモデル化するには、人間の感情の発話に注釈を付ける必要があります。この注釈は、感情分析¹に熟練した専門家または注釈者が行う必要があります。人間の感情の複雑さを理解することは、特に混合言語を扱う場合、簡単な作業ではありません。さらに、スケールに関連する問題は、人間による手動アノテーションのみに依存することは実行可能な選択肢ではないことを意味します。最近の研究では、このような複雑なタスクのシステムを構築する際に、ヒューマン・イン・ザ・ループのアプローチが一貫して必要であることが示されています。したがって、より単純な部分を自動化し、人間のニュアンスを必要とするタスクをアノテーターに予約する半自動アプローチは、この領域の自然言語システムの開発に最も適していると思われます。

もちろん、人間のアノテーターは手作業で作業を行うことになりますが、計算の時代では、これは現代の科学者に期待されているものではありません。アノテーター(手動、半自動、または全自動)が、発話に具体化された感情の種類、つまりシンボルとして表現された複数のタイプの感情で構成される発話を、口語表現またはコードミックスで複数のモダリティを使用してインテリジェントに推測できれば、タスクは難しく、同時に簡単です。ヒングリッシュ語の発話における感情注釈の複雑さは、表現の性質によって異なります。馴染みのある言葉や絵文字を使って感情を明確に伝える場合、注釈は比較的簡単です。ただし、発話に複数の感情、コードの混合、またはあいまいな記号表現が含まれる場合、この作業は困難になります。したがって、注釈は、感情がどれだけ直接的に表現されるかに応じて、簡単な場合もあれば難しい場合もあります。

感情や感情を識別する現代のアプローチは、感情の主観的な性質、人間の表現の曖昧さ、ヒングリッシュのようなコード混合言語の複雑さ、手作業による注釈の時間がかかり一貫性のない性質など、これらの課題に対処しています。計算モデルの構築と面倒な注釈タスクの管理に関連しています。最近の研究によると、研究者はこの目標に向けて、機械学習、深層学習、さまざまなハイブリッド アプローチなど、さまざまな方法を採用しています。最近の研究によると、これらの問題を克服するために、研究者は機械学習、深層学習、ハイブリッド モデルなどのさまざまな手法を採用しています。

最近の研究によると、研究者は機械学習、ディープラーニング³、ハイブリッド アプローチなど、あらゆる種類のアプローチを採用しています。感情分析という用語は、感情の極性が人間の生の感情を理解するためのマーカーであると考えられる場合に使用される手順を指します^3,4。このような技術の開発により、気分、感情、発話、顔の感情、非言語的合図の認識に役立ち、リアルタイム翻訳を可能にするアプリケーションにもすでに浸透しています²。マルチモーダルなアプローチは、ヒングリッシュを英語に翻訳するために使用でき、将来的にはインド映画を遠隔地社会にとってよりアクセスしやすくするのに役立つ可能性があります^5,6。たとえば、インドでは英語が第二言語であることがよくあります。この文脈での研究は、インドの音声(ミックスコード言語)を分析して、各単語の表現力、つまり感情や感情の程度を分析することにより、英語教育の質を向上させたことを示しています。

この研究の文脈の中で、翻訳と組み合わせたミックスドコード言語の使用は、英語教育の質を向上させることが示されています。これは、インドの音声 (混合コード言語) を分析して、各単語の表現力、つまり感情価を決定することによって実現されます。この研究は、音声解釈でコンピューターをトレーニングするための深層学習の適用を通じて、コンピューター化された音声分析の精度をすでに向上させ、コミュニケーションの理解を深めました ^4,5。2001年の国勢調査結果によると、ヒンディー語と英語を組み合わせた言語であるヒングリッシュ語は、現在インドで推定1億2,000万人が使用^{しています6。}

学習アルゴリズムの現代の状況から、アクティブラーニングが、特に感情の識別と認識の領域において、大規模なデータセットに注釈を付ける際の人間の労力を大幅に削減するための強力なツールとして浮上していることは明らかです。影響力のあるアノテーションに(適切な指標を使用)選択的にアノテーションを付けるこの反復的なアプローチは、アノテーションの精度を向上させるだけでなく、効率も向上させます⁵。以前の研究では、より小さなトレーニングデータセットでパフォーマンスを維持または改善しながら、手動アノテーションの作業負荷を大幅に削減し、有益な^{インスタンスを選択するための}クラスター分析ベースの方法を提案する有効性が実証されています^7,8。ヒングリッシュの感情認識の特定の文脈において、研究者は深層学習モデルとマルチラベル注釈付きデータセット^9,10,11を通じて貴重な貢献をしてきました。以前の研究^12,13 では、人間がラベル付けしたデータへの依存を最小限に抑えるためにアクティブ ラーニングと半教師あり手法が導入され、効率がさらに向上し、注釈コストが削減されました。さらに、アクティブラーニングは、特にマルチラベル感情分類¹⁴において、分類パフォーマンスを向上させるために多くのプロジェクトで実証されています。

分類器のパフォーマンスを向上させるアクティブラーニングの有効性は、さまざまな機械学習アプリケーションで認識されています。研究^15,16 では^、教育用途に焦点を当てることでパフォーマンスを向上させる上で重要な役割が強調されました。同様に、初期の研究では、サポートベクターマシンを使用したアクティブラーニングのための新しいアルゴリズムが導入され、ラベル付きインスタンスの必要性が大幅に減少しました¹⁷。別の研究では、テキスト分類¹⁸ などの構造化インスタンスを含むタスクでの応用も調査されました。アクティブラーニングが感情認識タスクに与える影響は、特に人間がラベル付けしたデータへの依存を最小限に抑えるという点で、効率の向上を超えて広がります。ある研究では、感情の分類と回帰のためのマルチタスクフレームワークが導入され、単一タスクの方法のパフォーマンスを上回りました¹⁰。

さらに、研究者¹⁹ は、アクティブ ラーニングを使用した音声およびテキストの感情認識において大きな進歩を遂げ、パーソナライズされた音楽感情分類におけるその有効性を実証しました²⁰。しかし、強調されているように、感情を分類してラベル付けするプロセスは、特に感情分析の文脈において、^21,22 に重大な課題をもたらします。ラベルの使用は、特に後で学習したカテゴリの場合、感情の分類に大きな影響を与える可能性があることに注意してください²³。これらの課題に対処するために、キーワードベースや学習ベースの方法など、さまざまなアルゴリズムが開発され、顕著な精度を達成しました²⁴。書かれた発話やテキストに基づく感情の研究は、多数のモデルで調査されており、アプローチは、効果的な感情検出のために規範的データベースを使用した次元モデルを実装しています²⁵。別の研究²⁶では、認知感情モデルが社会的感情の原因の特定に使用される逐次方法を強化しました。著者は、OCC感情モデルの計算言語学的解釈を提供し、同様の研究²⁷は、単語の依存関係と感情を表現するためにオントロジーを利用するシステムを提案しました。ある^研究の著者らは、感情的なワードプロセッシングと相関する信号について議論し、書き言葉で感情を表現する際の脳の適応を強調しました。マルチモデル データを含む生の感情の複数の配列の注釈は困難です。それにもかかわらず、戦争や紛争に関連する感情を調査することは、極端な状況下での人間の精神への科学的かつ体系的な窓を提供し、個人やコミュニティがトラウマ、喪失、不確実性にどのように対処するかをよりよく理解することを可能にします⁵。別の研究では、注釈技術がジャンル分類を効果的に強化し、タイトル機能がプロセスで重要な役割を果たしていることがわかりました²⁹。ある研究では、expert と GPT-4V を使用して 44K ビジョンタッチ データセットを作成し、テキスト生成³⁰ 用の触覚エンコーダーと TVL モデルをトレーニングしました。別の研究では、政治家に関するフランス語のツイートに自動的に注釈を付けるアクティブラーニングプロセスに焦点を当て、政治ツイートに関する意見とトレンドのマイニングを調査しました⁴¹。別の研究では、データストリームの動的適応型中央分析用に設計されたクラウドベースの科学ワークフロープラットフォームであるCloudFlowsが紹介されました。これにより、アクティブラーニングが感情分類を改善することが可能になり、アルゴリズムがリアルタイムデータの変化に適応できるようになります⁴²。

人間の感情の複雑さと、自動化された感情分析への欲求との間には明らかな緊張関係があります。人間の感情の複雑さと自動感情分析の目的との間には、固有の緊張関係が存在します。現代の研究のほとんどは、手動注釈の限界を認識しており、多様な形式のコミュニケーションにおける感情を理解するという課題に取り組むための高度な計算手法の必要性を強調しています。この理想的なシナリオは、文を書いたり話したりした人々から注釈を得るという、ほとんど非現実的です⁴³。データを取得するための理想的なシナリオ、特に文章を書いたり話したりした個人から直接注釈を取得するというシナリオは、ほとんど現実的ではありません。この非現実性は、このようなパーソナライズされた注釈を大規模に収集して処理することが不可能であることに起因しています。したがって、現在の取り組みは、テキストで表現された感情を分析し、ラベル付けするために、専門のアノテーターまたは自動感情検出アルゴリズムに依存する必要があります。この研究では、これらの領域の課題のいくつかの側面を克服しようと試みました。この問題分野における主な貢献は、^{以下 44} で紹介されます。

したがって、テキストで表現された感情を分析し、ラベル付けするには、専門家や注釈者、感情検出アルゴリズムに依存する必要があります。このようなパーソナライズされた注釈を大規模に収集して処理することは不可能です。したがって、この研究では、このドメイン知識のいくつかの側面を克服しようとしました。以下は、この問題領域における主な貢献です。

このフレームワークは、感情のタグ付け、コードミックス検出、絵文字解釈などのルールベースの手法と、ランダムフォレストや単語埋め込みなどの機械学習技術と連携して動作し、手作業を軽減しながら注釈の精度を向上させます。分類器の反復学習では、アクティブラーニングと転移学習を採用してあいまいな特徴サンプルに優先順位を付け、重労働の必要性を減らします。このアプローチにより、ハードな手動ラベリングと比較して運用コストが 40% 削減されました。

Hinglish のニュアンスをきめ細かいレベルで処理するために、カスタムのコンテキスト依存トークン化方法が開発されました。このアプローチでは、言語の切り替え、句読点、絵文字、サブワードのセグメンテーションを考慮してコード混合テキストを処理し、ヒンディー語と英語の混合テキストでより正確な感情注釈を可能にします。きめ細かなレベルでは、ヒングリッシュ テキスト用のカスタムのコンテキスト依存トークン化を開発しました。このフレームワークは、バイリンガルの感情辞書、サブワードのトークン化、およびカスタムのコンテキスト依存トークン化を組み込むことで、コード混合テキストの複雑さに対処します。語彙規則は、コード切り替えのあいまいさの89%を解決しました。

私たちの研究は、離散感情理論や認知評価理論など、確立された感情の心理学理論に基づいています。この研究は、危機対応とソーシャルメディアモニタリングのためのアプローチの拡張性を実証し、リソースの少ない多言語NLPアプリケーションの青写真を提供します。

表 1 は、同じ問題領域で利用可能な研究を示しています。文献調査と表の要約から、ほとんどの研究は、手動の方法を使用して注釈に関する初期作業を行うことから逃れることができないと推測できます。半自動アプローチに従っている研究者はほとんどいません⁴¹.ただし、パフォーマンスの本当の違いは、注釈のプロセスを自動化できる効果的な学習モデルの使用から来ています。ツイートの感情的な内容は、人間の感情の経路と感情の組織を説明する理論と一致する必要があります。次のセクションでは、既存のアプローチの限界と論文の経験的結果に基づいて問題を定義します。

勉強	データセット	感情	メソッド	ドメイン	ラベリングプロセス	ギャップ			今後の展開
[31]	9,000,000 ツイート	緊張、憂鬱、怒り、活力、疲労、	気分状態の混乱プロファイル	英語	ラベルなし	この研究は、驚き、喜び、恐怖などの微妙な感情の違いを見落としており、感情のラベル付けが、特に社会経済的出来事に関連して、感情の傾向の解釈可能性と粒度を高めることができることを示唆しています。			自動化された分類方法と確立された感情分類法を利用して、ソーシャルメディアデータ内のさまざまな感情表現をより適切に捉えて調査する方法を調査できる可能性があります。
[32]	7000 ツイート	怒り、嫌悪感、恐怖、喜び、愛、悲しみ、	サポート ベクター マシン	英語	手動	データセットの一般化可能性は、トピックの特異性と Twitter 全体の使用状況の代表性の欠如により制限されています。 主観的な解釈と最小限の文脈のため、注釈者間の適度な合意で示されるため、短くてカジュアルなツイートで感情に注釈を付けることは困難です。			今後の研究では、トピック固有の言語スタイルと感情固有の言語スタイルの違いを組み込むことで、改善された感情検出モデルの開発に焦点を当て、多様なツイートのコンテキストでより正確な分類を可能にします。
[33]	21,000 ツイート	怒り、嫌悪感、恐怖、喜び、悲しみ、驚き	サポート ベクター マシン	------	ハッシュタグの使用	既存の感情ラベル付きコーパスはサイズとドメインが限られており、マイクロブログ用の大規模で多様なデータセットが不足しています。ツイートは短く、ノイズが多く、文脈に制限があるため、正確な感情検出と注釈付けが困難になります。			将来的には、研究には、カバレッジと検出精度を向上させるために、同義語と追加のハッシュタグを使用して感情語彙を拡張することが含まれる場合があります。
[34]	16485 ツイート	怒り、嫌悪感、恐怖、喜び、悲しみ、驚き	サポートベクトル回帰	中国語	手動	従来の感情分類方法では、感情の根本的な原因が見落とされることが多く、特徴の品質が制限されます。 短くて非公式なマイクロブログの投稿から感情の原因を正確に抽出するには、堅牢なルールベースのシステムとドメイン知識が必要です。			感情原因分析をさらに調査することで、感情検出モデルを強化し、テキストの感情理解に新たな方向性を開くことができます。
[35]	10,040 ツイート	恐怖、希望、喜び、怒り、驚き、悲しみ、嫌悪感	LDA、評価者間合意	ヒングリッシュ語	手動	ヒングリッシュの公開されている構造化されたデータセット、特に危機関連コンテンツの実用的で感情的なニュアンスを捉えたデータセットが不足しています。ヒングリッシュは非標準のコード混合言語であり、地域的な違いにより正確な感情分析と注釈が複雑になります。			マルチモーダルデータセットを拡張するには、深い語用論的分析と機械学習モデルを統合し、対立談話におけるリアルタイムの感情追跡のスケーラビリティに対処します。
[36]	134,000 件のツイート	アクティブ、非アクティブ、ハッピー、アンハッピー	サポートベクターマシンとK最近傍	ヒングリッシュ語	ハッシュタグの使用	ツイートの手動による感情のラベル付けは労働集約的で一貫性がないため、大規模な感情分類の取り組みが制限されます クラウドソーシングされた注釈は、特に感情の興奮レベルを特定する際に信頼性に欠けており、感情解釈における主観性が強調されています。			ハッシュタグベースのラベル付けの改良と感情検出モデルの拡張に重点を置き、多様な感情的文脈にわたる精度と一般化可能性を向上させます。
[37]	37か国から3,000人の学生、心理学者、非心理学者	喜び、恐怖、怒り、悲しみ、嫌悪感、恥、罪悪感。	--	-----	手動	文化的要因が多様な社会における特定の感情の規制と表現にどのような影響を与えるかについての限定的な調査。普遍的な感情パターンの証拠と、感情の引き出しと解釈における文化的に特有のバリエーションとのバランスをとることは、依然として複雑です。			さらなる研究では、感情的な経験とコミュニケーションの形成における生物学的普遍性と文化的背景の間の相互作用を調査する必要があります
[38]	12000	幸福、悲しみ、怒り	評価者間合意	ヒンディー語+英語	手動	現在の研究には、ヒングリッシュの感情検出のための包括的で注釈付きのデータセットと標準化されたモデルが不足しています。ソーシャルメディアのテキストは不規則な文法とコードが混在しているため、正確な感情分類が困難になります。			今後の研究は、感情のカテゴリを拡大し、より大規模な多言語コード混合データセットの開発に焦点を当てます。
[39]	2866	幸せ、悲しみ、怒り、驚き、悲しみ	サポート ベクター マシン	ヒングリッシュ語(ヒンディー語+英語)	手動	感情に注釈を付けたコード混合データセットの欠如。 コードミックステキストの感情表現は言語やスクリプトによって異なるため、注釈や分類が複雑になります。			将来の研究では、コーパスを拡張して、より感情的な多様性を含め、品詞のタグ付けを統合し、多言語コード混合コンテンツを探索する可能性があります。
[40]	13738	---	機械翻訳 Google 翻訳者	ヒングリッシュ語	手動	既存の機械翻訳システムは、ドメイン固有の大規模な並列コーパスがないため、コードが混在したソーシャルメディアデータの精度に欠けています。スペルのばらつきが大きい、非公式な構造、言語識別のあいまいさにより、ローマ字化ヒンディー語-英語のテキストの翻訳が複雑になります。			コーパスは、コード混合翻訳システムの開発をサポートし、他のリソースの少ない言語や、名前付きエンティティ認識などのNLPタスクに拡張できます
[41]	11527	ポジティブ、非常にポジティブ、ネガティブ、非常にネガティブ	kNNに基づく分類、BOW表現	フランスの政治家	手動	英語以外の言語での政治的意見マイニングのための高品質の注釈付きデータセットの利用可能性は限られています。注釈のノイズ低減と情報保持のバランスをとり、大規模なツイートデータセットにおける不均一なラベル分布を処理することが重要な課題です。			今後の研究では、多言語の政治的言説における注釈ノイズを最小限に抑えながら、重要なコンテンツをより適切に保存するためにアクティブラーニング手法を改良する可能性があります。
[42]	764,416	---	Kmeansクラスタリング、SVM	英語	半監視	センチメント分析におけるリアルタイムのラベリングとモデルの更新は、データストリームの変動性、ラベリングコスト、システムのスケーラビリティによって制約されます。			今後の研究では、マルチクラスの感情分類を検討し、追加のラベル付け戦略を統合し、初期モデル生成の制御を拡大する予定です

表1:対応する標識方法を使用した利用可能な研究。この表は、既存の研究の完全な比較概要を提供し、感情の注釈に対処し、方法論的状況を確立し、既存の文献内での現在の研究の貢献を概念化します。

問題の説明
注釈で最も頻繁に研究される感情は、主に怒り、恐怖、幸福、悲しみ、驚きなどのコアカテゴリに焦点を当てた、エクマンやプルチックなどの基礎的な心理学モデルの影響を強く受けています⁴⁴ 。したがって、この研究では、感情の確立された意味合いに取り組むつもりです。課題は、戦争と紛争に焦点を当てたコーパスTからヒングリッシュのテキストインスタンス(ti)に正確に注釈を付けることができる動的計算フレームワークFを開発することです。このフレームワークは、感情の構築主義理論、感情的出来事理論 (AET)、離散的感情理論、および認知評価理論の原則を統合して、紛争関連の言説の多面的な感情的状況をモデル化する必要があります。T の各テキスト インスタンスは言語的に複雑で、ヒンディー語 (ローマ字)、英語、絵文字、記号がブレンドされているため、微妙な感情表現を捉えるには多層的なアプローチが必要です。

戦争に関連する感情の計算モデル (ケーススタディとして) には、ヒングリッシュベースのニュアンスに対処する語彙規則から始まる多面的なアプローチが含まれる場合があります。T で表されるトークン化には、ローマ字 (ローマ字で書かれたヒンディー語) と絵文字、句読点が含まれ、言語処理の基礎を形成します。D で表される感情辞書は、言語間の単語を怒り、喜びなどの特定の感情にマッピングし、各emotion_iがlanguage_kでwords_j関連付けます。サブワード分解 S は、複合語をその構成部分語に分解し、複雑な表現をより深く理解できるようにします。その後、機械学習技術 M は、Word2Vec/fastText などの埋め込み E を利用してトークンをベクトル表現に変換し、数値解析を容易にしますvector_v。ランダム フォレストなどのアンサンブル分類器 C は、これらのベクトル セットから感情ラベル emotion_label_p を予測します。アノテーション学習モデルを反復的に改善するために、アクティブラーニングメカニズムであるALが採用されています。専門家のフィードバック F は、refined_label_rを割り当てることであいまいなケースを改良し、重要な修正を提供することでambiguous_sample_q。サンプルの優先順位付け P は、信頼度の低いサンプルに焦点を当て、low_confidence_sample_s、それらをannotation_priority_t割り当て、注釈プロセスを最適化します。

これらのコンポーネントと理論を統合することで、このフレームワークはヒングリッシュ テキストを動的に処理し、言語的および文化的なニュアンスを橋渡しし、感情の注釈を適応的に洗練し、紛争言説における感情的側面を分析するためのスケーラブルなソリューションを提供することを目的としています。

Protocol

このセクションでは、8 感情アノテーションのマルチモーダル フレームワークがどのように構築されたかについても説明します。このセクションは、データセットのプロパティについて説明することから始まり、その後の手順が続きます。研究手順をよりよく理解するには、 図1を参照してください。

図1:感情注釈の体系的な枠組み。 この図は、効果的な感情、機械学習、アクティブラーニング、専門家の入力による動的語彙ルールを組み合わせたヒングリッシュテキストの注釈、誤分類された例を徐々に改善して精度を高め、注釈のコストを削減したものです。 この図の拡大版を表示するには、ここをクリックしてください。

データセットの準備
データ収集は、戦争、紛争、および関連する感情に関連するキーワードとハッシュタグの包括的なリストを特定することから始まります。学術文献、ニュース記事、ソーシャル メディアのトレンドなどのリソースを使用して、関連する既存のリストを作成しました。

図1のように、ツイートの収集とデータの前処理が完了した後、人間の専門家が手動でラベル付けし、アノテーションプロセスを改善するために組み込む必要がある語彙ルールの作成に関与します。これらのキーワード(紛争、戦争、危機、グッサなど)を使用して、10,040件のツイートの初期データセットが収集され、各ツイートに8つの事前定義された感情(怒り、恐怖、幸福、悲しみ、欲求不満、思いやり、混合、その他戦争と紛争の領域に関連する)が注釈付けられた手動ラベル付けの基礎として機能しました。手動のラベル付けプロセスは、ヒンディー語と英語の両方に精通した専門家チームによって実施され、英語のニュアンスが正確に捉えられるようにしました。

処理の例を以下に説明します。

トークン化と前処理:
ツイート入力: 「Mujhe Bhayanak lag raha hai 」
トークン化された出力: ["Mujhe", "Bhayanak", "lag", "raha", "hai", ""]
ローマ字の取り扱い: ヒンディー語の単語 (「Mujhe」、「Bhayanak」) はローマ字で保持されます。
絵文字/シンボル検出: "" はシンボリック トークンとして分離されます。

感情辞書マッピング(D):
バイリンガル (ヒンディー語/英語) の感情辞書を使用して、トークンを E の感情にマッピングします: 「Bhayanak」(ヒンディー語で「恐ろしい」を意味する) → Fear。「ラグ・ラハ・ハイ」(進行中の感情を暗示する文脈上のフレーズ)→恐怖。怒り→「」

サブワード分解(S):
より深い分析のために複雑な用語を分解します: 「Bhayanak」 → ["Bhay" (恐怖), "anak" (接尾辞)] 恐怖における意味論的ルーツを明らかにします。

埋め込み世代(E):
Word2Vec/fastText を使用してトークン埋め込みを生成する: ベクトル v₁、v₂、v₃、v₄、v₅、v₆ の ["Mujhe", "Bhayanak", "lag", "raha", "hai", ""→] の埋め込み。
集計ルール: グローバル セマンティック ベクトルを作成するための平均トークン埋め込み:
V_avg = (v₁ + v₂ + v₃ + v₄ + v₅ + v₆) / 6

ルールベースの特徴抽出:
連結する補助特徴を抽出します。感情タグの数: 恐怖: 2 インスタンス (「バヤナク」、「ラグ ラハ ハイ」);怒り: 1 インスタンス ("")。
コードスイッチフラグ: バイナリフラグ = 1 (ヒンディー語と英語の混合トークン: "Mujhe" [ヒンディー語]、[lag', "raha", "hai" [ヒンディー語由来])。

機能フュージョン:
集約された埋め込みとルールベースの特徴を統合された入力ベクトルに結合します: グローバル セマンティック ベクトル=V_avg(平均埋め込み)、感情数=[恐怖: 2、怒り: 1、その他: 0]、コード スイッチ フラグ=1
連結ルール最終入力ベクトル = V_avg [恐怖:2、怒り:1、その他:0] [1]
機械学習アルゴリズムはこの最終ベクトルを処理し、アノテーション改善の反復プロセスが始まります。次のセクションでは、この目的のために採用されたアクティブラーニング手法の性能について説明します。

この後、データセットは19,000ツイートに拡張されました。このデータセットは、最初の手動注釈から得られた洞察を活用して、自動技術と半自動技術を組み合わせてキュレーションされました。拡張されたデータセットは、反復学習プロセスからさらに洗練され、アノテーションの精度、一貫性、効率を向上させるために、専門家の注釈とドメイン専門家からのフィードバックのためにあいまいなデータ/ツイートを選択的に特定して優先順位を付けることが含まれていました。データ収集プロセス全体を通じて、さまざまな感情のバランスを維持することに特別な注意が払われ、データセットが戦争や紛争について表現された多様な感情を代表していることを確認しました。得られたデータセットは、ヒングル語テキストを分析するための貴重なリソースです。理解を深めるために、 図2 を参照できます。

図2:データセット収集の手順。 この図は、シードワードの識別から手動のラベリング、そしてアクティブラーニング、そして最終的な注釈付きデータセットまでのデータセットの開発を示しています。 この図の拡大版を表示するには、ここをクリックしてください。

データセットの最終準備は、アクティブラーニングの助けを借りて反復的な改良プロセスを完了した後に行われます。アクティブラーニングは、語彙ルール、機械学習、ヒングリッシュ発話の感情に注釈を付けるための反復的な専門家の入力を含むハイブリッドフレームワークで使用されました。手順は次のとおりです。

このプロセスは、手動でラベル付けされたデータセットから始まります。機械学習モデルが不確かであいまいなツイートを特定するために採用されたランダムフォレスト分類器を使用します。これらのあいまいなサンプルを分類するために人間の専門家に送信します。モデルは、最近注釈が付けられたデータを使用して繰り返し更新され、精度が徐々に向上し、誤分類が減少しました。データセットを完成させ、注釈を確認して正確性を確保します。データセットを分析用に準備し、将来下流のケースで実装するために使用できるように適切に文書化され、フォーマットされていることを確認します。ただし、発話に埋め込まれた感情のパターンを調査して、今後の実行のステップをより明確にすることが重要です。したがって、次のステップでは、クラスター分析を実行して、データセットに埋め込まれた支配的な感情を見つけます。これは、私たちが研究している感情を特定するのにも役立ちます。

感情クラスターの選択
表2は 、感情グループとそれに相当するヒングリッシュ語の感情グループ、およびそれぞれの感情を選択する理由を示しています。感情の各グループから、支配的な感情がさらなる処理のために選択されています。これらの支配的な感情は、クラスター分析から選択されます。

感情グループ	ヒングリッシュ相当	選択の正当化
恐怖(不安やパニックを含む)	ダル、カウフ、アサハジ、ベカブ、アンガダイ、チンタ、テンション、フィクル、アシャンカ、ウダアシ、ベチャニ、ガブラハット	恐怖は戦争や紛争において一般的な感情であり、個人は自分の安全と幸福に対する脅威に直面します。この恐怖は、不安、パニック発作、過警戒など、さまざまな形で現れる可能性があります。
怒り(イライラ、敵意、欲求不満、傷を含む)	グッサ、ラーグ、プラコップ、ラウドラ、チダーン、シャトルタ、クロード、グッサ・ディラナ、アパタ、アティヤチャール、クシュフェフミ、ハイラニ、バヤナク、チャッカー・カティナイ	怒りも戦争や紛争において蔓延する感情であり、多くの場合、不正、裏切り、喪失感から生じます。この怒りは攻撃性と暴力を助長し、これらの紛争の破壊的な性質の一因となる可能性があります。
悲しみ(悲しみ、絶望、絶望を含む)	ウダアシ、ガム、ショク、バブク、ドゥキ、ウダス、ヴィスメイ、ニラシャ、ショク、ドゥキ、ヴァイラギャ、アーシャンク、ヴィシャダ、バブク、ドゥキ、ウダス、ビナムラタ、バブク、フリデイトダ、ベウマール、ニラシャ、ビナーシュ、バイア、ニラシャ、アサンバブ、ハール	悲しみは喪失や悲しみに対する自然な反応ですが、残念ながら戦争や紛争ではよくある経験です。兵士は戦友の喪失に悲しみを感じ、民間人は愛する人が殺されたり避難したりして悲しみ、コミュニティ全体が家や生活様式の喪失を悲しむかもしれません。絶望感や絶望感は、紛争の長期化と終わりのない暴力のサイクルによっても生じることがあります。
恥と罪悪感	シャルム、ラジャバリ、シャルム、ラージ、ジラート、アフソス、グナ、アフソス、パシュチャタップ、ラージ、ベチェニ、アートマサマルパン、シャルミンダギ、アシュル、パシュチャタップ、アンタラトマ、カソール、グナー、クド・コ・ドシ・マアナ、ニンダ、ドーシャ	恥と罪悪感は、個人的または集団的な不正行為、不十分さ、または屈辱の感情から生じる可能性のある複雑な感情です。戦争や紛争では、個人は自分の行動、他人への危害を防ぐことができないこと、または他人が亡くなった間の生存に対して恥や罪悪感を経験することがあります。
嫌悪	ギン、ナフラット、アサハヤック、プラティクール、グリナ、ヴァイラギャ、ドヴェシャ、ナカラトマック、ヴィバブス、ヴァイラギャ、ヴァイラギャ、ニラシャ	嫌悪感とは、不快または攻撃的であると認識されたものに対する嫌悪感や嫌悪感です。戦争や紛争では、残虐行為、暴力行為、野蛮行為に対して嫌悪感を感じることがあります。
共感と思いやり	サハーアヌブティ、ハムデルダリ、サマジュダリ、ダーン・サハブーティ、感受性、支援性、思いやり、優しさ、思いやり、暖かさ、優しさ、ダヤ、ラハム、サハーヌブティ、サヒョグ、ダヤル、サマジ、ピヤル、ダヤ、ナラミ、パロプカリ	共感と思いやりは、他人の感情を理解し、共有するために不可欠です。戦争や紛争において、共感は、同じような経験をした人々とつながり、思いやりを育み、和解を促進するための強力なツールとなり得ます。思いやりは、困っている人を助け、癒しや再建の取り組みに貢献するよう個人を動機付けることができます。
希望と感謝の気持ち	ウメド、アーシャ、チャ、イチャ、サプナ、ウンナティ、アシュヴァサン、クシ、ウツァー、アシルワド、サムヴェダンシーラタ、ヴィシュワス、バロサ、シュクラグザール、エシャナナンド、シュクラナ、アーバール、ナムラタ、サマーニャ、ナマン、アーシェレワド、バダイ、ダンヤヴァード、アビヴァドン、マノバブ、バクティ	希望とは、直面する課題や困難にもかかわらず、何か良いことが起こるという楽観主義と期待の感情です。感謝とは、人生の良いことに対する感謝と感謝の気持ちです。戦争や紛争において、希望は強さとモチベーションの源となり、個人が忍耐強く、より良い未来に向かって努力することを可能にします。感謝の気持ちは、個人が自分の人生のポジティブな側面に集中し、回復力を育み、混乱の中で平和の感覚を育むのに役立ちます。
反発力	Jheelaanek、ヒマット、サハシ、サハス、ダイヤ、マジブティ、サムヴェダンシール、サマルティヤ、マジブティ、ラチャリ	レジリエンスとは、困難な状況や困難な状況に適応し、対処する能力です。戦争や紛争において、個人やコミュニティが逆境に直面しても生き残り、忍耐するためには回復力が不可欠です。

表2:感情の選択の正当化。 この表は、感情グループをヒングリッシュの同等のものにマッピングし、戦争や紛争の文脈におけるそれらの関連性を説明します。

ただし、これらの感情の選択は、クラスター分析に基づいているだけでなく、認知評価理論 (CAT)、離散感情理論 (DET)、感情のプロセス指向理論 (POT) などの感情理論にも基づいていることに注意する必要があります⁴³。

コーパスの詳細
データセットは、ドメイン固有 (戦争、紛争、危機) と、ヒンディー語と英語のツイートが混在する追加のツイート データセットで構成されています。 図3 は、この研究のために処理されている公開されているツイートデータセットのスナップショットです。プライマリデータセットは、https://data.mendeley.com/datasets/y63frd6pmf/7 で公開されています。

図3:コーパスの詳細。 データセットの可用性については、こちらで説明します。 この図の拡大版を表示するには、ここをクリックしてください。

感情ラベルの注釈
戦争と紛争に関連する10,040件のヒングリッシュ語のツイートの最初のコーパスには、バイリンガルの専門家によって8つの感情ラベルが手動で注釈が付けられました。コードが混在したテキストの言語的複雑さに対処するために、いくつかのコンポーネントを組み込んだ語彙ルールベースのフレームワークが開発されました。このフレームワークには、fear_words = {恐怖、恐怖、バヤナック、 、恐怖、 } や anger_words = {gussa, rage, , irritation, } など、ヒンディー語/英語の用語を感情にマッピングする感情固有の辞書が含まれています。言語間の等価性ルールは用語をリンクしました(たとえば、if(Ae == Ah):怒り=グッサ| )。感情辞書、混合言語のトークン化、サブワード分解などの字句規則が使用されます。感情に注釈を付けるために、これらのルールはテキストを前処理し、特徴を抽出し、それを機械学習埋め込みと組み合わせます⁴⁵。

トークン化の場合、 フレームワークは言語切り替え、句読点、絵文字、サブワードのトークン化にカスタム ルールを利用しました。ヒンディー語 (デーヴァナーガリー) テキストは文字レベルでトークン化され、英語 (ローマ字) は空白を使用しました。例: Mujhe frustration hai → [Mujhe、欲求不満、hai]。ハッシュタグ (#) やメンション (@) などの特殊文字は個別のトークン (例: #WarCrimes → [#, WarCrimes] ) として分離され、句読点 カンマ (,) や感嘆符 (!) などの別々のトークン (例: → 、!]) に分割されました。

絵文字もスタンドアロンのトークンとして扱われ、感情 (怒り、→悲しみなど →) にマッピングされました。デーヴァナーガリー文字で行われたサブワードトークン化は、サンディルールの正規表現パターンを使用して複合語を分割し(例:] [王国 + 世界])、ローマ字の接頭辞/接尾辞をセグメント化しました(例:信じられない→ [un, believable])。ドメイン固有の拡張では、辞書で一致する場合、トークンは感情ラベルに置き換えられました。例: バヤナクは恐怖→、ダハドは恐怖→、グッサ→怒りです。Mujhe Bhayanak lag raha hai → Tokens [Mujhe、恐怖、遅れ、ラハ、ハイ]をツイートします。

ベクトル化後、処理されたトークン (単語、サブワード、絵文字) は、Word2Vec/fastText を使用して 300 次元の埋め込みに変換されました。トークンの列ベクトルの数値表現、トークンに対応するベクトルの行列。各行は、テキスト内のトークンに関連付けられた埋め込みベクトルに対応し、トークンの順序を表します。行の列は、埋め込みスペースのディメンションを示します。ベクトルには、Word2Vec と FastText を使用して計算された実数が含まれています。ベクトルがゼロのトークンは、すべてゼロの値を持つ行で示され、この表現に意味のある情報が欠けているスペースまたは特殊文字を示す場合があります。埋め込みは、注釈を改善するために文脈に応じた単語の関係をキャプチャすることを目的としています。ゼロ以外のベクトルは、単語または記号の意味のある表現を示します。これらのベクトルの値は、さまざまな意味的および構文的特徴をエンコードします。ゼロベクトルは、通常、パディング、スペース、または認識されないトークンを表します。値の変動性は、埋め込みモデルによってキャプチャされた特徴の豊富さを反映します。さまざまなベクトル寸法は、単語の意味、文脈、使用法のさまざまな側面を捉えます。 図4 はベクトルがどのように表現されているかを示しており、 図5からベクトル化プロセスを使用することの意味を理解することができます。

図 4: カスタム トークン化。この図は、ベクトルが埋め込み空間でどのように表現されるかを示し、各トークンがどのように数値形式に転送されるかを示しています。 この図の拡大版を表示するには、ここをクリックしてください。

図5:トークンベクトル化プロセスとその影響。 この図は、これらのプロセス、コンポーネントの意味を示し、これらの埋め込みが正確な感情分類のために感情の意味論をどのように捉えるかを強調しています。 この図の拡大版を表示するには、ここをクリックしてください。

調査フローに従って、プロセスは入力テキストを解析し、ルールベースの辞書を使用してトークンを拡張し、これらのトークンをサブワードに分解することから始まります。このアプローチは、テキストの感情的な内容と文化的背景の理解を提供し、研究のための疑似論理を以下に示します。

感情辞書を初期化します (例: fear_words = {"fear", "dread", "bhayanak", ...}): 設定 ae = ah
SubwordRules(token, script): デーヴァナーガリー→正規表現(複合語/Sandhi)を使用して分割する場合、ローマ字→正規表現を使用してプレフィックス/サフィックスを分割する場合、サブワードを返します
DomainSpecificExpansion(token): 感情/言語辞書のトークンが感情を返す→
それ以外の場合は、トークン→返します
ProcessTweet(text): デーヴァナーガリー、ローマ字などの正規表現を定義します。正規表現を使用してトークンを抽出します。トークンに DomainSpecificExpansion と SubwordRules を適用します。処理されたサブワードを返す
トークンを数値埋め込みにベクトル化する
人間のフィードバックによるアクティブラーニングの適用

Results

この研究の結果は、語彙規則を機械学習およびアクティブラーニング技術と統合することで、コード混合ヒングリッシュテキストにおける感情注釈の効率と精度を高めるための実行可能な経路を提供することを示唆しています。反復的な改良と専門家の提案により、提案されたフレームワークは、進化マトリックス全体で高いパフォーマンスを維持しながら、手作業の大幅な削減を達成することができました。この結果は、スケーラブルな感情認識ソリューションを必要とする領域、特にソーシャルメディア分析や危機情報学などの多言語でリソースに制約のある環境において、より幅広い適用可能性を示している。

字句ルールと機械学習機能の統合
このフレームワークには、専門家のラベル付けのためにあいまいなツイート (怒りと欲求不満の混合の手がかりなど) を特定するランダム フォレスト分類器を使用したアクティブ ラーニング ワークフローも含まれています。人間のフィードバックにより...

Discussion

この研究のデータセットは、手動アノテーションとアクティブラーニングの組み合わせを使用してキュレーションされました。当初、戦争と紛争に関連する10,040件のヒングリッシュ語のツイートには、8つの事前定義された感情が手動でラベル付けされていました。その後、データセットは半自動アプローチを使用して 19,000 ツイートに拡張されました。アクティブラーニングにより、専門家の選択的な介入が可能になり、手作業を40%削減しながら、Fスコア0.76で81%の高い注釈精度を維持しました。語彙規則と感情固有の辞書は、コード切り替えのあいまいさの 89% を解決する上で重要な役割を果たしました。アクティブラーニングフレームワークはモデルを反復的に改良し、精度が72%から81%に段階的に向上したことを実証しました。

字句ルールと機械学習の統合
このフレームワークは、ルールベースの機能と機械学習を効果的に組み合わせました。トークン化、サブワード分解、感情マッピングには字句ルールが適用され、埋め込み (Word2Vec、fastText) は文脈表現を提供しました...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
ファストテキスト	フェイスブックAI	該当なし	単語の表現と分類
Google Colab	ググる	該当なし	クラウドベースのJupyter Notebook環境
Google Colab GPU/TPU	ググる	該当なし	クラウドベースのハードウェアアクセラレーション
Intel Core i5/i7またはAMD Ryzen 5/7	インテル / AMD	該当なし	ローカル実行用のプロセッサ (必要な場合)
マットプロトリブ	オープンソース	該当なし	データ可視化ライブラリ
NLTKの	オープンソース	該当なし	テキスト処理のための自然言語ツールキット
ナンパイ	オープンソース	該当なし	数値計算ライブラリ
NVIDIA GTX 1650 以降 (オプション)	エヌビディア	該当なし	ディープラーニングタスク用のGPU
パンダ	オープンソース	該当なし	データ操作ライブラリ
Python	Pythonソフトウェア財団	該当なし	ML および NLP 用のプログラミング言語
パイトーチ	メタAI	該当なし	ディープラーニングフレームワーク
RAM(最小8GB、16GB推奨)	諸	該当なし	ML タスクのメモリ要件
Scikit-learn	オープンソース	該当なし	機械学習ライブラリ
シーボーン	オープンソース	該当なし	統計データの可視化
SpaCy	爆発AI	該当なし	産業強度のNLPライブラリ
SSDストレージ(最小256GB、512GB推奨)	諸	該当なし	データセット処理用のストレージ
テンソルフロー	ググる	該当なし	ディープラーニングフレームワーク