【发布时间】:2018-01-11 13:32:29
【问题描述】:
对于一个学校项目,我目前正在编写一个程序,该程序通过 Q-Learning 算法学习如何玩井字游戏,基于以下来源:https://github.com/aimacode/aima-java/blob/AIMA3e/aima-core/src/main/java/aima/core/learning/reinforcement/agent/QLearningAgent.java
但是我发现了一个更具体的问题,尽管我进行了所有的研究和尝试来调试它,但我无法解决它。
该算法使用 HashMap 来存储 Q-Values,这是它的定义:
Map<Pair<S, A>, Double> Q = new Hashtable<Pair<S, A>, Double>();
然后,我实现了我的类,使得 S 是一个 Grid,A 是一个 DynamicAction,我具体使用 TicTacToeAction 和 NoOpAction 的实例,它们都扩展了 DynamicAction。
这里是 Grid 的 hashCode 和 equals :
@Override
public int hashCode() {
final int prime = 31;
int result = 1;
result = prime * result + ((matrix == null) ? 0 : matrix.hashCode());
return result;
}
@Override
public boolean equals(Object obj) {
if (this == obj)
return true;
if (obj == null)
return false;
if (getClass() != obj.getClass())
return false;
Grid other = (Grid) obj;
if (matrix == null) {
if (other.matrix != null)
return false;
} else {
System.out.println("this : " + this);
System.out.println("other : " + other);
if (!matrix.equals(other.matrix)) {
return false;
}
}
System.out.println("this and other are equals");
return true;
}
矩阵是这样定义的:
private ArrayList<ArrayList<String>> matrix = new ArrayList<ArrayList<String>>();
TicTacToeAction 稍微复杂一些,因为它扩展了 DynamicAction,它本身扩展了一个 ObjectWithDynamicAttributes 类,实现了 hashCode 和 equals,但是这部分代码来自上一个链接的 GitHub。
对于 Pair,hashCode 和 equals 的定义如下:
@Override
public boolean equals(Object o) {
if (o instanceof Pair<?, ?>) {
Pair<?, ?> p = (Pair<?, ?>) o;
return a.equals(p.a) && b.equals(p.b);
}
return false;
}
@Override
public int hashCode() {
return a.hashCode() + 31 * b.hashCode();
}
但是当程序尝试使用 QLearningAgent 类中的 put 和 get 方法时,我遇到了一些大问题。它附加了它很少检索以前输入的值,更糟糕的是,keySet() 似乎包含重复的元素!此外,由于 equals 方法中的打印,我发现这有点像 put 和 get 方法没有检查整个 KeySet 以查看条目是否存在,所以相同的条目被一次又一次地放入......但是,当我尝试将值手动放入使用相同类定义的类似 HashMap 中时,似乎没有发生此类问题。
也许最难以理解的例子就是这个:
这部分代码:
for(Pair<S, A> pair : Q.keySet()) {
System.out.println(pair);
System.out.println("Contains? " + Q.keySet().contains(pair));
System.out.println("value : " + Q.get(pair));
}
返回这个(除其他外......):
< -------------
| 1 | O | X |
-------------
| 4 | X | O |
-------------
| X | O | X |
-------------
, Action[name=Play Cell 6] >
Contains? false
value : null
< -------------
| 1 | O | X |
-------------
| 4 | X | O |
-------------
| X | O | X |
-------------
, Action[name=Play Cell 6] >
Contains? false
value : null
因此,首先,这两对看起来相等,但不能通过 Set 的定义来定义,但是 HashMap 的 KeySet 怎么可能(以及用 HashTable 替换它的相同结果,它不能接受 null 值所以“值:null”表示地图中不存在这样的条目)不检索直接来自Q.keySet()的对?因为即使在我看不到的 equals 方法中存在问题,在这种情况下使用 contains 就像在某些时候使用 equals 将实例与自身进行比较,不是吗?所以我猜第一个“this == obj”条件会被检查。
我一定是错过了什么,但是我尝试了很多东西,我没有更多的想法,所以我希望有人能够帮助我......
感谢您宝贵的时间,
保罗
编辑 1:按照@tevemadar 的建议,我添加打印以显示 hashCodes。
for(Pair<S, A> pair : Q.keySet()) {
System.out.println(pair);
System.out.println("Contain? " + Q.keySet().contains(pair));
System.out.println("value : " + Q.get(pair));
System.out.println("Pair hashCode : " + pair.hashCode());
System.out.println("Grid hashCode : " + pair.getFirst().hashCode());
System.out.println("Action hashCode : " + pair.getSecond().hashCode());
}
这是一个返回的例子:
< -------------
| 1 | X | O |
-------------
| 4 | O | X |
-------------
| O | X | O |
-------------
, Action[name=Play Cell 3] >
Contain? false
value : null
Pair hashCode : 1710044996
Grid hashCode : 79268846
Action hashCode : -224488982
< -------------
| 1 | X | O |
-------------
| 4 | O | X |
-------------
| O | X | O |
-------------
, Action[name=Play Cell 3] >
Contain? false
value : null
Pair hashCode : 1710044996
Grid hashCode : 79268846
Action hashCode : -224488982
因此,都属于 keySet() 的两个元素似乎也具有相同的 hashCodes。
【问题讨论】:
-
因为你已经有了这些打印,你可以打印更多的东西,比如 Pair 的 hashCode 和组件的 hashCode。
-
您还应该打印
pair.a和pair.b,以比较它们。否则,请为其他人发布可重现的案例。 -
@AhmedAshour 我想知道该评论是如何立即获得赞成票的,而打印 Pair 实际上会打印这两个部分:github.com/aimacode/aima-java/blob/AIMA3e/aima-core/src/main/…,因此您所要求的已经是帖子的一部分(是的,而OP 没有提到,Pair 也来自 GitHub,整个 playfield 是 'a',而 Action-thing 是 b)。好吧,我的错:这可能是可重复性。
-
我没有想到 hashCodes 因为实际上我不确定它们是如何使用的,我添加了一个带有你建议的编辑。 @AhmedAshour 在不发布所有代码的情况下发布可重现的案例对我来说非常复杂,因为我不完全知道问题出在哪里。正如我所说,当我尝试使用手动创建的示例重现 HashMap 行为时,不会出现问题。并感谢您的帮助。
-
哈希值用于选择将存储键值对的“桶”(并且在同一个桶中出现两次是一件好事,
hashCode实现可能有效正确)。之后HashMap检查该“桶”是否包含密钥本身,这次使用equals方法。这就是某处失败的原因。
标签: java hashmap key equals mutable