こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて

国内デベロッパーのMedium-Rare Gamesは12月19日、『Algolemeth』のSteamストアページを公開、本作を正式にお披露目した。本作はPC（Steam）向けに、2024年内リリースを目標として開発中だ。 『Algolemeth』は、全自動ダンジョンRPGだ。本作では、プレイヤーが自立駆動するゴーレムたちを制作。パーティーを編成して全自動によるダンジョン攻略をおこなう。ゴーレムたちは、プレイヤーが構築した戦闘ロジック（AI）に従って駆動する。ダンジョンに潜む強敵たちの行動を分析し、それに対処できるようなアルゴリズムを組み立て、試行錯誤を繰り返してダンジョンを踏破していくのだ。 自動化可能なのは、戦闘のみではない。探索AIを組むことで、「パーティーの誰に宝箱を解錠させるか」「どの程度の残体力で探索を諦め撤退するか」といった状況判断も自動的にさせることが可能。迷宮内ではさま

国内デベロッパーのEmemeは12月14日、AI-NPC行動観察バラエティゲーム『Ememe』を正式発表した。対応プラットフォームはPC（Steam/Epic Gamesストア）で、2024年夏に無料にて早期アクセス配信予定。 『Ememe』は、自動でストーリーが生成されるAI-NPCの行動観察バラエティゲーム。舞台となる街Ememe Townには、AIキャラクターたちが暮らしており、自律的に会話、行動しながらキャラクター同士の関係性を作って、好き勝手に日常生活を送っているという。 本作にてプレイヤーは、この街に住む新たなAIキャラクターを生み出し、彼らの性格を設定できるほか、時にストーリーを操作することも可能とのこと。開発元は、ジム・キャリー氏主演の映画「トゥルーマン・ショー」のように、AIキャラクターのリアリティードラマを創作できるとアピールしている。 街で暮らすAI-NPCの会話は、

山名琢翔（筑波大学） オセロが解かれた？！　"Othello is Solved"というタイトルの論文がarXivに投稿されました$${^{☆1}}$$．オセロでは，初期局面から双方のプレイヤがミスをせずに打ち続ければ，終局結果は引き分けになると証明できたというのです． オセロを「解く」とはどういうことなのか．どうやって解いたのか．また，解かれた後のオセロはどうなるのか．この記事ではオセロを解くということについて解説します．なお，このarXivに投稿された論文"Othello is Solved"は記事執筆時点で査読や追試を経たものではないことに注意すべきです． オセロを「解く」とはどういうこと？　ゲーム情報学の分野では，ゲームを「解く」という行為がいくつか存在して，それぞれに名前がついています．具体的には強解決，弱解決，超弱解決の3種類です．論文本体の話題に入る前に，まずはオセロを解くと

香川県三豊市は、今年6月から東京大学大学院と実証実験を進めてきた「チャットGPT」を使ったゴミ出し案内の導入を断念すると発表しました。三豊市では、東京大学大学院工学系研究科の松尾研究室と協力して、今年6…

香港の英字紙サウスチャイナ・モーニング・ポスト（SCMP）は12月12日、中国のインターネット検閲を監督する当局が、新たな取り締まり対象を発表し、その中に、人工知能（AI）で作成されたコンテンツや「悲観主義」を助長する人物などが含まれていると報じた。 中国サイバースペース管理局（CAC）の新たな取り締まりは「悲観主義や過激主義を助長する者」や「不適切な職業観を持つ者」「拝金主義をアピールする者」などをターゲットにしている。SCMPが指摘するように「悲観主義」はこれまでのリストにはなかったまったく新しい追加項目と言える。 CACはまた、生成AIを用いて作成されたテキストや画像、動画があふれる中国版TikTokの「Douyin（抖音）」のコンテンツにも特別な監視の目を向けている。同局は、これらのコンテンツが一般人がスマートフォンを用いて作成したコンテンツと見分けがつかないことを危惧している。

Stability AIが画像生成AI「Stable Diffusion」を公開したのは2022年8月のこと。すさまじい勢いで発展してきた画像生成AIの1年を振り返ってみようと思います。 初めに見てもらいたいのは「これが無料でいいのか!? “爆速生成AI”がペイントソフトに革命を起こした」で紹介した、KritaとGenerative AI for Kritaを組み合わせて作成した設定資料的な画像です。 キャラクターの3面図のサンプル。Vroidで簡単な3Dで当たり（左）として、右の画像を作成する。それを元に、プロンプトや画像に描き込んだりして、最終画像を作成していく。2枚目には前面図の頭部のカチューシャや、胸部分のフリルがなかったりするが、そこに色を加筆して、プロンプトで指示すると、最終画像にそれが追加されるのをリアルタイムに確認しながら修正できる（筆者作成） Stable Diffusi

絵がヘタすぎてもテキトーに描くだけでチョー美しい絵にしてくれるAIがスゴイ！→ マジで凄かった件「Akuma.ai」 めっちゃ美しく絵を描きたい！ 描きたい気持ちはあるけど絵がドヘタ！ そんな人にとって救世主ともいえるサービスかもしれない。テキトーにそれっぽい絵を描くだけで、しっかりと美しく絵を仕上げてくれる「誰でも使えるリアルタイムAIお絵かき」が爆誕するというのだ。 「Akuma.ai」の誰でも使えるリアルタイムAIお絵かき そんなお絵描きAIを発表したのは「Akuma.ai」。実際にデモンストレーションの動画がX(旧Twitter)に掲載されているのだが、これまさに、絵が描けなかった人にとって夢のようなサービスといえそう。画期的すぎる。 誰でも使えるリアルタイムAIお絵かき。Akumaからリリースします！ pic.twitter.com/VM0TQ6tmUR— Akuma.ai (@

生成AIのChatGPTを開発したアメリカのベンチャー企業「オープンAI」は21日、解任されたサム・アルトマン氏がCEOに復帰することで合意したとSNS上で明らかにしました。解任からわずか5日で復帰が決まり、混乱した会社経営が正常化するかが課題となります。 これは「オープンAI」が21日、旧ツイッターのXで明らかにしたものです。 アルトマン氏がCEOに復帰することやほかに3人の取締役を決めたことで合意したとしています。 SNSで会社は「詳細については協力して対応していく。今回のことではご迷惑をおかけした」としています。 「オープンAI」の取締役会は先週17日、CEOだったサム・アルトマン氏を解任しました。 生成AIのサービスを急速に拡大させようとするアルトマン氏と、AIの安全性を重視する取締役会のメンバーとのあいだで激しい議論があった可能性が指摘されていました。 IT大手のマイクロソフトが

花笠監督の「私立GPT北高校」でグランシュライデ２週目キャラ演じてみたんだけど、面白すぎるｗ いかん、これはハマるｗ https://t.co/jNaQSFjJoZ pic.twitter.com/dGsmjfYCdr — らけしで (@lakeside529) November 10, 2023 実際に100人ぐらいの人が現時点でプレイしてくれてますね。 ありがたいですね。 GPTsの実際の作り方まずGPT Builderを立ち上げましょう。よくわからん場所にあります。 PCで立ち上げて左上を見ましょう。 Exploreってあるよね。そこ。 そこを押すと、よくわかんないリストの一番上に「+」マークが出るじゃない。それを押すのです。 そうするとこういう画面に来ますわね。 ここで画面左側、Createのタブで普段通りつくりたいGPTをテキストで打っていってもいいんですが。。。これって結局ここ

11月7日 、OpenAI DevDay が開催。 全ての内容が革命的という衝撃の発表となりました。 発表された内容は、大きくまとめると、主に3つです。 1. GPT API が大幅に改善、新しいAPIも 2. GPTs 発表： 自然言語で作れるAIボット 3. Assistants API 発表: 開発者のための、AIアシスタントAPI 全て、インパクトが非常に大きいです。 それぞれ、詳しく解説していきます。 GPT API を全般的に大幅に改善、新しいAPIもまず、API に多くの改善が加えられます。 完全に新しいAPIも発表されました。 主に6つあるため、それぞれ、詳しく説明します。 1.コンテキスト長が、128kトークンに拡大なんと、受付可能なコンテキスト長が、一挙に12万8千まで拡大しました。 これは、300ページ以上のテキストに相当する情報です。 また、コンテキスト長が大幅に拡

29日午前、福井県永平寺町で全国で初めて特定の条件下での完全な自動運転「レベル4」の運行を行っていた車両が、走行中に道路脇にあった自転車に接触する事故がありました。けがをした人はいませんでしたが、運行する町の第三セクターは、安全が確認されるまでは運行を中止することにしました。 29日午前10時半ごろ、永平寺町志比の町道で、自動運転を行っていた車両が、道路の左側に駐輪してあった自転車と接触しました。 警察や町によりますと、当時、この車両には4人の客が乗っていましたが、けがをした人はいなかったということです。 永平寺町では、ことし5月から、町道のおよそ2キロの区間で時速12キロ以内で走るなど、特定の条件のもとで完全な自動運転「レベル4」の車両の運行が全国に先駆けて始まっていました。 車両には、障害物を避けるためのセンサーやレーダーが取り付けられていたということで警察は事故当時の状況を詳しく調べ

わかるよ。すげえわかる。AI絵師(笑)が憎いよな？ あいつらは、俺ら絵師(俺みたいな弱小絵師は含まれないかもしれんが)の作品を無断で学習したAIを使って、一本も線を引かずに「俺らAI絵師っす！まだペン持ってるんすかｗｗｗ教師データごちっすｗｗｗｗｗｗ」みたいに煽ってきてな？すげえわかる。弱小絵師の俺なんかでよければ200%その憎しみに寄り添ってやれるよ。憎いよなあいつら。 でもさ、頼むからAI絵師(笑)を叩くのを即刻やめてくれ。お願いだから。少なくともオープンな場で叩くのをやめてくれ。 みんながAI絵師(笑)叩きに励めば励むほど、俺らの置かれている状況はどんどん不味くなっていく。俺はそのことを知って欲しくて今回これを書いている。 (AI絵師を叩くなという文章を書く以上、これ以降はAI絵師のあとに(笑)をつけません) ●我々の目標は「社会的合意の元にルールを作る」ことであるべき『失敗の本質』

AIによる解析結果を基に実施した兵庫県たつの市の現地調査で見つかった円墳の「中垣内平見古墳」。覆土が流れ、石室が露出していた＝高田主任研究員提供 古墳の形状を学ばせたAI（人工知能）に自治体が公開している立体地図上を「探検」させ、未発見の古墳を突き止める手法を奈良文化財研究所（奈文研、奈良市）の高田祐一・主任研究員らのグループが開発した。グループはこの手法を「デジタル探査」と命名。奈文研のサイトで22日、研究成果の報告書を公開した。【稲生陽】 手法開発に成功 古墳の発掘調査は一部の学術調査を除き、公共工事や民間開発に伴って実施される。しかし、開発の機会が少ない山間部は調査の難しさもあり、未発見の遺跡が数多くあるとみられている。 今回の研究は兵庫県で実施。まず、県内で把握されている約7000カ所の古墳の形状をAIに学ばせた。その上で、同県が公開している詳細な三次元の地形データをAIが解析。学

老眼は他人事じゃない。AIを使った遠近両用メガネで世界が変わった話2023.10.21 13:0043,561 三浦一紀 ｢なんだかスマホの文字が見づらいなー｣なんて感じたこと、ありませんか？ それ、老眼かもしれません。 老眼（老視）とは、年齢とともに目の機能が衰えることで近くのものにピントが合わなくなる生理現象。この老眼、人間であれば誰にでもいつか必ずやってきます。他人事ではありません。 本はこのくらい離さないとピントが合わない。これでは文字が小さくて読みづらい。僕も45歳を過ぎたあたりから本やスマホやPCの文字が見づらくなり、今では仕事をするときだけ老眼鏡をかける生活をしています。PCの画面や手元はよく見えて快適です。ただ、面倒くさいことも。 それは｢着けっぱなしで生活できない｣こと。老眼鏡は近くのものを見る専門のメガネ。クルマの運転や野球観戦といった、遠くを見る用途では視界がぼやけて

西暦79年に発生した壊滅的なベスビオ（ヴェスヴィオ）火山噴火により、失われた古代ローマの都市はポンペイ以外にもいくつかある。ヘルクラネウムもその1つだ。 約2000年前のヘルクラネウムの炭化した巻物に書かれている内容を解読するため、ケンタッキー大学はコンピューター科学者たちを総動員した。巻物から判読可能な文字を見つけ出した研究者に賞金を出すというのだ。 その結果、巻物の中の文書の1つから最初の単語を解読することに成功したそうだ。 広告 2000年前の巻物から判読できる単語を発見 西暦79年、ベスビオ山が大噴火を起こし、その爆風がヘラクラネウムの町を襲ったとき、大邸宅の図書室にあったおびただしい古代の巻物を焼き尽くし、古代ローマの町を灰と軽石で埋め尽くしてしまった。 この大災害で、巻物は永久に破壊されたかにみえた。だが、それから2000年近くたった現在、研究者たちがAIを利用して、真っ黒に炭

10月1日頃、OpenAIの新しい画像生成AI「DALL·E 3（ダリ３）」が徐々に使えるようになり、その性能の高さから話題になっています。まずサプライズで使えるようになったのがマイクロソフトのBingチャット。日本語で「猫の画像を作ってください」などと入れるだけでかわいい猫の画像が出てくると。これが無料で使えるのは衝撃的です。マイクロソフトが巨大資本で他の会社をつぶしに来たなという感じですね。どう考えても、今のところはサーバーコストが果てしなくかかる赤字サービスなのは間違いないので……。 「ラーメンを食べる女の子」が描ける！ なにより衝撃的だったのは、「アニメ風の少女と猫が遊んでいる姿を作ってください」というリクエストに対し、一発で完璧な正解を出してきたことです。Stable Diffusionだと苦手とされていた指も適切に描写されています。もうひとつの着目点はオブジェクト間の関係性です

謎めいた「フェアリーサークル」は、 なぜかそこだけ植物が生えないため、地面に無数の円形パターンが現れる現象のことだ。 これまで、アフリカのナミビアとオーストラリアの乾燥地帯でしか見つかっていなかったが、実は、世界中に膨大な数が出現していることが明らかになった。 スペインの研究チームがAIにフェアリーサークルを探させてみたところ、3大陸15カ国、263カ所でそれとよく似たパターンが見つかったと、『PNAS』（2023年9月25日付）で報告している。 広告 謎めいた乾燥地帯の円形パターン「フェアリーサークル」 フェアリーサークルとは、乾燥地帯の砂漠や草原に生えている草が、円形にハゲ上がってできる不思議なパターンのことだ。 ナミビアの「ナミブ砂漠」に出現するものが最も有名だが、 2017年に西オーストラリアのアウトバック（内陸に広がる砂漠を中心とした地域）でも発見されている。 これができる原因は